×

使用数据自代表性进行模式分类的自适应图构造。 (英语) Zbl 1390.68522号

摘要:在许多机器学习和计算机视觉任务中,如半监督学习、流形学习和谱聚类,由数据构建图形是一个预先阶段。图形构建过程对学习任务及其相关应用的影响,尽管对准确性有重要影响,但目前的研究还很有限。通过采用(ell{1})正则化的稀疏编码来构建最新状态图。这些图在许多计算机视觉应用中表现出良好的性能。然而,在编码方案中没有明确使用实例之间的局部性和相似性。此外,由于使用了\(\ell_{1}\)正则化,这些构造方法的计算成本可能很高。在本文中,我们研究了使用数据自代表性性质的图构造。通过合并一种局部约束线性编码(LLC)变体,我们引入并导出了四种用于图构造的变体。这些变体采用两相LLC(TPLLC)。与最近的(ell{1})图相比,我们提出的带有三个变量的目标函数具有解析解,因此效率更高。提出的方法的一个关键要素是编码的第二阶段,它允许自然地合并数据的紧密性或局部性。它对一些选定的相关样本进行编码,并通过利用第一阶段估计的系数来加强单个正则化项。使用多个基准数据集的综合实验结果表明,它可以实现或优于现有的最新结果。此外,它还被证明比稳健的图构造方案更有效。

MSC公司:

68T05型 人工智能中的学习和自适应系统
68吨10 模式识别、语音识别
68T45型 机器视觉和场景理解

软件:

Yall1号机组
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] 贝尔金,M。;Niyogi,P.,用于降维和数据表示的拉普拉斯特征映射,神经计算。,15, 6, 1373-1396 (2003) ·Zbl 1085.68119号
[2] 贝尔金,M。;Niyogi,P。;Sindhwani,V.,《流形正则化:从标记和未标记示例学习的几何框架》,J.Mach。学习。第7号决议,2399-2434(2006)·Zbl 1222.68144号
[3] 贝尔蒂尼,J.R。;赵,L。;Lopes,A.A.,基于k关联图的非平稳数据分类增量学习算法,Inform。科学。,46, 10, 52-68 (2013) ·Zbl 1320.68132号
[5] 陈,H。;Chang,H。;Liu,T.,局部判别嵌入及其变体,IEEE计算机视觉和模式识别国际会议,846-853(2005)
[6] Cheng,B。;杨,J。;Yan,S。;Fu,Y。;Huang,T.S.,《使用L1-graph进行图像分析的学习》,IEEE Trans。图像处理。,19, 4, 858-866 (2010) ·兹比尔1371.68229
[7] Cheng,H。;刘,Z。;Yang,J.,标签传播的稀疏性诱导相似性度量,IEEE计算机视觉国际会议,317-324(2009)
[8] 组合框,P。;Wajs,V.,通过近端前向背向分裂恢复信号,Multisc。模型。模拟。,4, 4, 1168-1200 (2005) ·兹比尔1179.94031
[9] 黄,J。;周,D。;Scholkopf,B.,从有向图上的标记和未标记数据中学习,ICML,1036-1043(2005)
[10] Daitch,S.I。;Kelner,J.A。;Spielman,D.A.,将图形拟合到矢量数据,国际机器学习会议,201-208(2009)
[11] Dornaika,F。;Bosaghzadeh,A。;Raducanu,B.,基于标签传播的多观察人脸识别的高效图形构建,人类行为理解国际研讨会。人类行为理解国际研讨会,LNCS,8212124-135(2013)
[12] Dornaika,F。;Bosaghzadeh,A。;Salmane,H。;Ruichek,Y.,基于图的半监督学习与局部二进制模式,用于整体对象分类,专家系统。申请。,41, 17, 7744-7753 (2014)
[13] Dornaika,F。;Bosaghzadeh,A。;Salmane,H。;Ruichek,Y.,《使用LBP自表示性进行户外物体分类的图形构建方法》,工程应用。Artif公司。智力。,34, 294-302 (2014)
[14] Elhamifar,E。;Vidal,R.,《稀疏子空间聚类:算法、理论和应用》,IEEE Trans。模式分析。机器。智力。,35, 11, 2765-2781 (2013)
[15] Figueiredo,麻省理工学院。;诺瓦克,R.D。;Wright,S.J.,《稀疏重建的梯度投影:压缩传感和其他反问题的应用》,IEEE J.Selected Top。信号处理。,1, 4, 586-597 (2007)
[16] 高,S。;曾荫权(Tsang,I.)。;Chia,L.-T.,拉普拉斯稀疏编码,超图拉普拉斯稀编码,及应用,IEEE Trans。模式分析。机器。智力。,31, 1, 92-104 (2013)
[17] 盖恩,I。;Elisseeff,A.,《变量和特征选择简介》,J.Mach。学习。第3号决议,1157-1182(2003年)·Zbl 1102.68556号
[18] 他,R。;郑伟。;胡,B。;Kong,X.,用于区分性半监督学习的非负稀疏编码,IEEE计算机视觉和模式识别会议(CVPR),2849-2856(2011)
[19] 何,X。;蔡,D。;Niyogi,P.,特征选择的拉普拉斯分数,神经信息处理系统,507-514(2005)
[20] 何,X。;Niyogi,P.,《位置保持预测》,《神经信息处理系统的进展》16,153-160(2003),麻省理工学院出版社
[21] Jebara,T。;Wang,J。;Chang,S.,《半监督学习的图形构建和b匹配》,ICML,441-448(2009)
[22] 姜振林。;林,Z。;Davis,L.S.,通过标签一致的KSVD学习稀疏编码的区分字典,IEEE计算机视觉和模式识别国际会议,1697-1704(2011)
[23] Kim,S.J。;Koh,K。;Lustig,M。;博伊德,S。;Gorinevsky,D.,大规模l1-正则最小二乘的内点方法,IEEE J.Selected Top。信号处理。,1, 4, 606-617 (2007)
[24] Kokiopoulou,E。;Frossard,P.,多观测集的基于图形的分类,模式识别。,43, 12, 3988-3997 (2010) ·Zbl 1207.68291号
[25] Lee,H。;Battle,A。;雷娜,R。;Ng,A.Y.,高效稀疏编码算法,神经信息处理系统进展,801-808(2006)
[26] Li,C。;郭杰。;Zhang,H.,基于局部稀疏表示的分类,IEEE模式识别国际会议,649-652(2010)
[27] Li,C。;齐,X。;郭杰。;Xiao,B.,《半监督学习中不同图形的评估》,《智能科学与智能数据工程》,58-65(2012)
[29] 刘,W。;Chang,S.F.,《图形的鲁棒多类传递学习》,计算机视觉与模式识别,381-388(2009)
[30] 刘,X。;潘,S。;郝,Z。;Lin,Z.,基于图的软约束混合标记传播半监督学习,Inform。科学。,277, 1, 327-337 (2014) ·Zbl 1354.68224号
[31] 迈尔,M。;冯·卢克斯堡,美国。;Hein,M.,图构造对基于图的聚类度量的影响,NIPS,1025-1032(2008)
[32] Mairal,J。;巴赫,F。;彭斯,J。;萨皮罗,G。;Zisserman,A.,稀疏编码的在线词典学习,ICML,689-696(2009)
[33] Malioutov,D.M。;塞廷,M。;Willsky,A.S.,稀疏信号表示的同伦延拓,声学,语音和信号处理,2005年。诉讼程序。(2005年ICASSP)。IEEE国际会议,5,v/733-v/736(2005)
[34] Newmann,M.E.J.,使用矩阵的特征向量寻找网络中的群落结构,Phys Rev.E Stat Nonlin Soft Matter Phys,74:036104(2006)
[35] 聂,F。;徐,D。;曾荫权(Tsang,I.)。;Zhang,C.,《柔性流形嵌入:半监督和非监督降维框架》,IEEE Trans。图像处理。,19, 7, 1921-1932 (2010) ·Zbl 1371.94276号
[36] 聂,F。;曾,Z。;Tsang,I.W。;徐,D。;Zhang,C.,Spectral嵌入式聚类:样本内和样本外光谱聚类的框架,IEEE Trans。神经网络。,22, 11, 1796-1808 (2011)
[37] Niyogi,P.,《流形正则化和半监督学习:一些理论分析》,《技术报告》(2008),芝加哥大学计算机科学系
[38] Ojala,T。;Pietikainen,M。;Maenpaa,T.,具有局部二进制模式的多分辨率灰度和旋转不变纹理分类,IEEE Trans。模式分析。机器。智力。,24, 7, 971-987 (2002)
[39] Roweis,S。;Saul,L.,通过局部线性嵌入降低非线性维数,《科学》,290,5500,2323-2326(2000)
[40] 石青(Shi,Q.)。;埃里克森,A。;亨格尔,A。;Shen,C.,人脸识别真的是一个压缩感知问题吗?,IEEE计算机视觉模式识别国际会议,553-560(2011)
[41] 辛格,A。;诺瓦克,R。;Zhu,X.,《未标记数据:现在有帮助,现在没有,神经信息处理系统的进展》,1513-1520(2009)
[42] Sousa,C。;雷赞德,S。;Batista,G.,图构造对半监督学习的影响,欧洲机器学习会议,160-175(2013)
[43] Tang,J。;R·洪。;Yan,S。;Chua,T.S。;齐,J。;Jain,R.,通过KNN-稀疏图基标签传播在噪声标记web图像上的图像注释,ACM Trans。智力。系统。技术。,2011年2月2日14:1-14:15
[44] von Luxburg,U.,《光谱聚类教程》,《统计计算》。,17, 4, 395-416 (2007)
[45] Wang,F。;Zhang,C.,线性邻域中的标签传播,IEEE Trans。知识。数据工程,20,1,55-67(2008)
[46] Wang,H。;黄,H。;丁,C.,使用有向图进行图像分类,欧洲计算机视觉会议,762-775(2010)
[47] Wang,J。;杨,J。;Yu,K。;吕,F。;黄,T。;Gong,Y.,用于图像分类的局部约束线性编码,IEEE计算机视觉和模式识别国际会议,3360-3367(2010)
[48] 王,Z。;Song,Y。;Zhang,C.,混合图的知识转移,第21届国际人工智能联合会议论文集,1291-1296(2009)
[49] Waqas,J.等人。;Yi,Z。;Zhang,L.,使用(L_2)最小化方法的基于协作邻域表示的分类,模式识别。莱特。,34, 2, 201-208 (2013)
[50] 沃尔夫,L。;哈斯纳,T。;Taigman,Y.,基于背景样本的相似性得分,第九届亚洲计算机视觉会议论文集-第二卷。第九届亚洲计算机视觉会议记录——第二卷,ACCV'09,88-97(2010)
[51] Wright,J。;Yang,A.Y。;Ganesh,A。;Sastry,S.S。;Ma,Y.,基于稀疏表示的鲁棒人脸识别,IEEE Trans。模式分析。机器。智力。,31, 2, 210-227 (2009)
[52] Yan,S。;Wang,H.,稀疏表示半监督学习,SIAM国际数据挖掘会议,792-801(2009)
[53] 闫S.C。;徐,D。;张,B。;张,H。;杨琼。;Lin,S.,图嵌入和扩展:降维的一般框架,IEEE Trans。模式分析。机器。智力。,29, 1, 40-51 (2007)
[54] Yang,A.Y。;Sastry,S.S。;Ganesh,A。;Ma,Y.,Fast\(L_1-\)最小化算法及其在鲁棒人脸识别中的应用:综述,技术报告(2010)
[55] 杨,J。;Yu,K。;龚,Y。;Huang,T.,使用稀疏编码进行图像分类的线性空间金字塔匹配,IEEE计算机视觉和模式识别会议,1794-1801(2009)
[56] 杨,J。;张,L。;Xu,Y。;Yang,J.,《超越稀疏性:L1-优化器在模式分类中的作用》,模式识别。,45, 1104-1118 (2012) ·Zbl 1227.68102号
[57] 杨,J。;Zhang,Y.,压缩传感中(l_1)问题的交替方向算法,技术报告(2009)
[58] 杨,M。;张,L。;杨,J。;Zhang,D.,面向人脸识别的鲁棒稀疏编码,IEEE计算机视觉和模式识别国际会议,625-632(2011)
[59] Yang,S。;Lv,Y。;任,Y。;Yang,L。;Jiao,L.,通过基于稀疏表示的增量字典学习进行无监督图像分割,Inform。科学。,269, 10, 48-59 (2014)
[60] 张,L。;陈,S。;乔,L.,稀疏约束降维的图形优化,模式识别。,45, 1205-1210 (2012) ·Zbl 1227.68097号
[61] 张,L。;乔·L。;Chen,S.,图优化局部保持投影,模式识别。,43, 1993-2002 (2010) ·Zbl 1191.68611号
[62] 张,L。;杨,M。;Feng,X.,稀疏表示或协作表示:哪有助于人脸识别?,计算机视觉国际会议,471-478(2011)
[63] 张,L。;杨,M。;X·冯。;马云(Ma,Y.)。;Zhang,D.,基于协同表示的人脸识别分类,CoRR,abs/1204.2358(2012)
[64] 赵,J。;卢克。;He,X.,位置敏感半监督特征选择,Neurocomput。,71, 1842-1849 (2008)
[65] 周,D。;O.布斯克。;Lal,T.N。;韦斯顿,J。;Scholkopf,B.,《局部和全局一致性学习》,《神经信息处理系统进展》,321-328(2004)
[66] 周,H。;哈斯蒂,T。;Tibshirani,R.,稀疏主成分分析,技术报告(2004),斯坦福大学统计系
[67] 朱,X。;加赫拉马尼,Z。;Lafferty,J.,使用高斯场和调和函数的半监督学习,机器学习国际会议,912-919(2003)
[68] 齐布列夫斯基,M。;Elad,M.,信号和图像处理中的(L_1-L_2\)优化,IEEE信号处理。Mag.,27,3,76-88(2010)
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。