×

用于数据表示的超粒度正则化判别概念分解。 (英语) Zbl 1398.68467号

摘要:对于模式分析和识别任务,非负矩阵因式分解和概念因式分解(CF)因其有效应用而备受关注,可以找到有意义的数据低维表示。然而,他们忽略了数据的局部邻域中嵌入的几何信息,并且未能利用先验知识。本文提出了一种新的半监督学习算法——超图正则化判别概念分解(HDCF)。为了探索数据的内在几何结构和利用标签信息,HDCF将超粒度正则化器引入CF框架,并使用标签信息训练分类器以完成分类任务。HDCF可以学习关于数据固有流形结构的新概念分解,同时也适用于分类任务和基于低维表示的分类器。此外,还开发了一种迭代更新优化方案来求解所提HDCF的目标函数,并提供了优化方案的收敛性证明。在ORL、Yale和USPS图像数据库上的实验结果证明了该算法的有效性。

MSC公司:

68T05型 人工智能中的学习和自适应系统
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] Agarwal S、Branson K、Belongie S(2006)《图形的高阶学习》。摘自:第23届机器学习国际会议论文集。宾夕法尼亚州匹兹堡,第17-24页
[2] 阿加瓦尔,S;林,J;泽尼克庄园,L;佩罗纳,P;克里格曼,D;Belongie,S,Beyond pairwise clustering,838-845,(2005),加利福尼亚州
[3] M·贝尔金;Niyogi,P;辛德瓦尼,V,《流形正则化:从示例中学习的几何框架》,J Mach Learn Res,72399-2434,(2006)·Zbl 1222.68144号
[4] Belkin M,Niyogi P(2001)嵌入和聚类的拉普拉斯特征映射和光谱技术。收录于:第15届神经信息处理系统年会,NIPS 2001,第14卷。麻省理工学院出版社,剑桥,第585-591页
[5] 蔡,D;他,X;韩,J;黄,T,用于数据表示的图形正则化非负矩阵分解,IEEE Trans-Pattern Ana Mach Intell,331548-1560,(2011)·doi:10.1109/TPAMI.2010.231
[6] 蔡,D;他,X;Han,J,用于文档聚类的局部一致概念分解,IEEE Trans Knowl Data Eng,23,902-913,(2011)·doi:10.1109/TKDE.2010.165
[7] Chapelle O,Schokopf B,Zien A等人(2006)半监督学习,第2卷。麻省理工学院出版社,剑桥·doi:10.7551/mitpress/9780262033589.001.0001
[8] 阿联酋登普斯特;新墨西哥州莱尔德;Rubin,DB,通过EM算法从不完整数据中获得最大似然,J R Stat Soc Ser B(Methodological),39,1-38,(1977)·Zbl 0364.62022号
[9] 迪亚兹·瓦伦苏埃拉,I;Loia,V;Martin-Bautista,MJ;Senatore,S;马萨诸塞州维拉,《半监督聚类的自动约束生成:文档分类经验》,《软计算》,202329-2339,(2016)·doi:10.1007/s00500-015-1643-3
[10] Grira N,Crucianu M,Boujemaa N(2005)具有成对约束竞争聚集的半监督模糊聚类。摘自:第14届IEEE模糊系统国际会议,FUZZ'05。IEEE,第867-872页
[11] He,W;陈吉姆,X;Zhang,WH,子空间聚类的图正则化低秩表示,软计算,21,1-13,(2017)·doi:10.1007/s00500-015-1869-0
[12] He R,Zheng W,Hu B,Kong X(2006)用于判别式半监督学习的非负稀疏编码。2011年IEEE计算机视觉和模式识别会议(CVPR)。IEEE,第2849-2856页
[13] Hong,C;于,J;李,J;Chen,X,通过补丁对齐框架进行多视图超图学习,神经计算,118,79-86,(2013)·doi:10.1016/j.neucom.2013.02.017
[14] 华,W;He,X,数据表示的判别概念分解,神经计算,743800-3807,(2011)·doi:10.1016/j.neucom.2011.07.020
[15] 黄,Y;刘,Q;Lv,F;龚,Y;Metaxax,D,通过超图分区进行无监督图像分类,IEEE Trans-Pattern Ana Mach Intell,331266-1273,(2011)·doi:10.1109/TPAMI.2011.25
[16] Huang Y,Liu Q,Metaxas D(2009)超图切割的视频对象分割。摘自:计算机视觉和模式识别国际会议论文集。佛罗里达州迈阿密,第1738-1745页
[17] 黄,L;Su,CY,使用流形学习和信念传播的面部表情合成,软计算,101193-1200,(2006)·兹比尔1141.68566 ·doi:10.1007/s00500-005-0041-7
[18] Lee,DD;Seung,HS,通过非负矩阵分解学习对象的各个部分,Nature,401,788-791,(1999)·Zbl 1369.68285号 ·doi:10.1038/44565
[19] Li X,Zhao CX,Shu ZQ,Guo JH(2015)超粒度正则化概念分解算法及其在数据表示中的应用。中国科学院控制决策30(8):1399-1404
[20] 迈拉尔,J;巴赫,F;彭斯,J;萨皮罗,G;齐瑟曼,A;Koller,D(编辑);舒尔曼斯,D(编辑);Bengio,Y(编辑);Bottou,L(编辑),《监督词典学习》,第21期,1033-1040,(2009),温哥华
[21] 沙,F;林,Y;索尔,LK;Lee,DD,非负二次规划的乘法更新,神经计算,19904-2031,(2007)·Zbl 1161.90456号 ·doi:10.1162/neco.2007.19.8.2004年
[22] Shahnaz,F;贝里,MW;Pauca,V;Plemmons,RJ,使用非负矩阵分解进行文档聚类,Inf Process Manag,42,373-386,(2006)·Zbl 1087.68104号 ·doi:10.1016/j.ipm.2004.11.005
[23] Shashua A,Hazan T(2005)非负张量因式分解及其在统计学和计算机视觉中的应用。摘自:第22届机器学习国际会议记录,第792-799页
[24] 太阳,L;季,S;Ye,J,用于多标签分类的超图谱学习,668-676,(2008),内华达州
[25] Tenenbaum,J;席尔瓦,V;Langford,J,《非线性降维的全球几何框架》,《科学》,2902319-2323,(2000)·doi:10.1126/science.290.5500.2319
[26] 田,Z;黄,T;Kuang,R,一种基于超图的学习算法,用于利用先验知识对基因表达和阵列CGH数据进行分类,生物信息学,252831-2838,(2009)·doi:10.1093/bioinformatics/btp467
[27] 王,C;于,J;Tao,D,室内场景分类的高级属性建模,神经计算,121,337-343,(2013)·doi:10.1016/j.neucom.2013.05.032
[28] 王,Y;贾,Y;胡,C;Turk,M,人脸识别的非负矩阵因式分解框架,国际J模式识别Artif Intell,19495-511,(2005)·doi:10.1142/S021801405004198
[29] Xu W,Gong Y(2004)通过概念分解进行文档聚类。摘自:2004年信息检索研究与开发国际会议论文集(SIGIR’04),英国谢菲尔德,2004年7月,第202-209页
[30] H·阳城;洪涛,L;雷,H;赛宁,X,数据表示的成对约束概念分解,神经网络,52,1-17,(2014)·Zbl 1311.68137号 ·doi:10.1016/j.neuet.2013.12.007
[31] 于,J;陶,D;Wang,M,自适应超图学习及其在图像分类中的应用,IEEE Trans-image Process,213262-3272,(2012)·Zbl 1381.62216号 ·doi:10.1109/TIP.2012.2190083
[32] Zass R,Shashua A(2008)概率图和超图匹配。摘自:美国阿拉斯加州安克雷奇市计算机视觉和模式识别国际会议记录,第1-8页
[33] 曾,K;于,J;李,CH;你,J;Jin,TS,基于超粒度正则化非负矩阵分解的图像聚类,神经计算,138209-217,(2014)·doi:10.1016/j.neucom.2014.01.043
[34] Zhang Y,Yeung D(2008)使用鲁棒路径相似性的半监督判别分析。摘自:IEEE计算机视觉和模式识别会议,第18页
[35] 周D,黄J,Scholkopf B(2006)超图学习:聚类、分类和嵌入。摘自:第20届神经信息处理系统年会,NIPS 2006。麻省理工学院出版社,剑桥,第1601-1608页
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。