×

利用递归神经网络构造子空间学习的L_1图。 (英语) Zbl 1425.68350号

摘要:在本文中,我们感兴趣的问题是通过递归神经网络构造用于子空间学习的(l_1)-图。为此,我们提出了一种闭仿射子空间学习(CASL)方法。CASL问题被表示为一个由非负正定函数中的能量函数描述的优化问题。给出了能量函数在非负正态下保持最小值的充分条件。根据这些充分条件,构造了一个Lotka-Volterra递归神经网络模型来解决优化问题。结果表明,网络模型的稳定吸引子集正好等于非负正态能量函数的极小点集。基于这些等价性,可以通过运行所提出的LV RNN来获得稳定吸引子来解决CASL问题。然后就可以构造\(l_1\)-图。在一些合成数据和实际数据上的实验表明,用这种方法构造的(l_1)-图更有效,特别是在处理从多个流形采样的数据时。

MSC公司:

68T05型 人工智能中的学习和自适应系统
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] Asai T、Ohtani M、Yonezu H(1999)《lotka-volterra竞争神经网络的模拟集成电路》。IEEE Trans神经网络10(5):1222-1231·数字对象标识代码:10.1109/72.788661
[2] Belhumeur PN、Hespanha JP、Kriegman DJ(1997)《特征脸与渔民脸:使用特定类别线性投影的识别》。IEEE Trans-Pattern Ana Mach Intell 19(7):711-720
[3] Belkin M,Matveeva I,Niyogi P(2004)大型图的正则化和半监督学习。在:学习理论。柏林施普林格,第624-638页·Zbl 1078.68685号
[4] Belkin M,Niyogi P,Sindhwani V(2006)《流形正则化:从标记和未标记示例学习的几何框架》。J Mach学习研究7:2399-2434·Zbl 1222.68144号
[5] Brox T,Malik J(2010)通过点轨迹的长期分析进行对象分割。In:Computer vision-ECCV 2010。柏林施普林格,第282-295页
[6] Chen G,Lerman G(2009)谱曲率聚类(scc)。国际J计算机视觉81(3):317-330·doi:10.1007/s11263-008-0178-9
[7] Cheng B,Yang J,Yan S,Fu Y,Huang TS(2010)《使用l1-图进行图像分析的学习》。IEEE传输图像处理19(4):858-866·Zbl 1371.68229号 ·doi:10.1109/TIP.2009.2038764
[8] Donoho DL,Grimes C(2003)Hessian特征映射:高维数据的局部线性嵌入技术。国家科学院学报100(10):5591-5596·Zbl 1130.62337号 ·doi:10.1073/pnas.1031596100
[9] Elhamifar E,Vidal R(2009)稀疏子空间聚类。收录:IEEE计算机视觉和模式识别会议,2009年。CVPR 2009。IEEE,第2790-2797页
[10] Elhamifar E,Vidal R(2011)稀疏流形聚类和嵌入。In:《神经信息处理系统的进展》,第55-63页
[11] Fukai T,Tanaka S(1997)一个简单的神经网络,显示了神经元集合的选择性激活:从赢家-赢家-分享-所有。神经计算9(1):77-97·Zbl 0872.68151号 ·doi:10.1162/neco.1997.9.1.77
[12] Ge SS,Guan F,Loh A,Fua CH(2006)基于高维空间中内在结构发现的特征表示。收录:机器人与自动化,2006年。ICRA 2006。2006年IEEE会议记录。IEEE,第3399-3404页
[13] Grant M,Boyd S,Ye Y(2008)Cvx:用于约束凸规划的Matlab软件
[14] Guan N,Tao D,Luo Z,Yuan B(2011a)具有快速梯度下降的流形正则化判别非负矩阵分解。IEEE传输图像处理20(7):2030-2048·Zbl 1372.94098号 ·doi:10.1109/TIP.2011.2105496
[15] Guan N,Tao D,Luo Z,Yuan B(2011b)非负性斑块对齐框架。IEEE Trans Neural Netw 22(8):1218-1230·doi:10.1109/TNN.2011.2157359
[16] Guan N,Tao D,Luo Z,Shawe-Taylor J(2012a)Mahnmf:曼哈顿非负矩阵因式分解。arXiv,预印arXiv:12073438
[17] Guan N,Tao D,Luo Z,Yuan B(2012b)Nenmf:非负矩阵分解的最优梯度法。IEEE传输信号处理60(6):2882-2898·Zbl 1391.65115号 ·doi:10.1109/TSP.2012.2190406
[18] Lauer F,Schnorr C(2009)运动分割线性子空间的谱聚类。收录:IEEE计算机视觉事务。IEEE,第678-685页
[19] Lei YK,Xu YM,Yang JA,Ding ZG,Gui J(2012)使用正交判别局部切线空间对齐进行特征提取。模式分析应用程序15(3):249-259·doi:10.1007/s10044-011-0231-0
[20] Liu G,Yan S(2011)用于子空间分割和特征提取的潜在低秩表示。2011年IEEE国际计算机视觉会议(ICCV)。IEEE,第1615-1622页
[21] Ng AY、Jordan MI、Weiss Y等人(2002)《关于光谱聚类:分析和算法》。高级神经信息处理系统2:849-856
[22] Nistér D(2005)实时结构和运动估计的抢占式传输。马赫-维斯应用16(5):321-329·doi:10.1007/s00138-005-0006-y
[23] Pan Y,Ge SS(2009)加权局部线性嵌入用于降维。图案识别42(5):798-811·兹比尔1178.68453 ·doi:10.1016/j.patcog.2008.08.024
[24] Rao SR、Tron R、Vidal R、Ma Y(2008)在存在离群、不完整或损坏轨迹的情况下,通过鲁棒子空间分离进行运动分割。2008年IEEE计算机视觉和模式识别会议。CVPR 2008。IEEE,第1-8页
[25] Roweis ST,Saul LK(2000)局部线性嵌入的非线性降维。科学290(5500):2323-2326·doi:10.1126/science.290.5500.2323
[26] Saul LK,Roweis ST(2003)《全局思考,局部拟合:低维流形的无监督学习》。J Mach学习研究4:119-155·Zbl 1093.68089号
[27] Shi J,Malik J(2000)归一化剪切和图像分割。IEEE Trans-Pattern Ana Mach Intell 22(8):888-905·数字对象标识代码:10.1109/34.868688
[28] Short R,Fukunaga K(1980)一种新的最近邻距离度量。摘自:《第五届模式识别国际会议论文集》,第81-86页
[29] Tenenbaum JB(1998)绘制了多种感知观察结果。主题:神经信息处理系统的进展,第682-688页
[30] Tomasi C,Kanade T(1992),正字法下图像流的形状和运动:一种因式分解方法。国际J计算可视化9(2):137-154·doi:10.1007/BF00129684
[31] Tron R,Vidal R(2007)三维运动分割算法比较基准。2007年IEEE计算机视觉和模式识别会议。2007年CVPR。IEEE,第1-8页
[32] Turk M,Pentland A(1991),识别特征。认知神经科学杂志3(1):71-86·doi:10.1162/jocn.1991.3.1.71
[33] Van Den Berg E,Friedlander MP(2008)《探索帕累托边界的基础追踪解决方案》。SIAM科学计算杂志31(2):890-912·Zbl 1193.49033号 ·doi:10.1137/080714488
[34] Vidal R、Hartley R(2004)使用功率因数分解和gpca对缺失数据进行运动分割。In:计算机视觉和模式识别,2004年。CVPR 2004。2004年IEEE计算机学会会议记录。IEEE,第2卷,第II-310页
[35] Wright J,Yang AY,Ganesh A,Sastry SS,Ma Y(2009)通过稀疏表示实现鲁棒人脸识别。IEEE Trans-Pattern Ana Mach Intell公司31(2):210-227·doi:10.1109/TPAMI.2008.79
[36] Xu D,Yan S,Tao D,Lin S,Zhang HJ(2007)人类步态识别和基于内容的图像检索的边缘fisher分析及其变体。IEEE Trans-Image过程16(11):2811-2821·doi:10.10109/TIP.2007.906769
[37] Yan J,Pollefeys M(2006)运动分割的一般框架:独立、铰接、刚性、非刚性、退化和非退化。In:Computer vision-ECCV 2006。柏林施普林格,第94-106页
[38] Yan S,Xu D,Zhang B,Zhang-HJ,Yang Q,Lin S(2007)图嵌入与扩展:降维的一般框架。IEEE跨模式分析-马赫积分29(1):40-51·doi:10.1109/TPAMI.2007.250598
[39] Yang B,Chen S,Wu X(2011)判别分析的结构动机框架。模式分析应用程序14(4):349-367·doi:10.1007/s10044-011-0228-8
[40] Yi Z(2010)通过lotka-volterra递归神经网络实现竞争层模型的基础。IEEE Trans Neural Netw 21(3):494-507·doi:10.1109/TNN.2009.2039758
[41] Yi Z,Tan K(2002)具有时滞的lotka-volterra递归神经网络的动态稳定性条件。物理版E 66(1):011910
[42] Yu J,Amores J,Sebe N,Radeva P,Tian Q(2008)相似性估计的远程学习。IEEE Trans-Pattern Ana Mach Intell 30(3):451-462·doi:10.1109/TPAMI.2007.70714
[43] Zhang Y,Tan KK(2003)递归神经网络的收敛性分析。Kluwer学术,波士顿
[44] Zhu X,Ghahramani Z,Lafferty J等人(2003)使用高斯场和调和函数的半监督学习。国际资本市场协会3:912-919
此参考列表基于出版商或数字数学图书馆提供的信息。它的项目与zbMATH标识符启发式匹配,并且可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。