×

具有统一图的灵活多视图半监督学习。 (英语) Zbl 1521.68141号

摘要:目前,数据采集的多样性推动了多视图数据的增长和标签信息的缺乏。由于手动标记既昂贵又不切实际,因此可以使用少量标记数据和大量未标记数据来提高学习性能。在本研究中,我们提出了一种新的多视图半监督学习(MSEL)框架,称为具有统一图的柔性MSEL(FMSEL)。在此框架中,引入了两个灵活的回归残差项。一种是线性惩罚项,它自适应地权衡不同视图的不同贡献,并适当地学习结构良好的统一图。另一个是松弛正则化项,它可以找到最优预测和线性回归函数。同时支持对数据库中的样本和新数据进行预测。此外,在这个过程中,统一图根据数据结构和动态更新的标签信息进行学习。此外,我们提供了一种交替优化算法来迭代求解由此产生的目标问题,并从理论上分析了相应的复杂性。在合成数据集和公共数据集上进行的大量实验证明了FMSEL的优越性。

MSC公司:

68T05型 人工智能中的学习和自适应系统
68吨10 模式识别、语音识别
90 C90 数学规划的应用
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] 亚松森,A。;Newman,D.,UCI机器学习库(2007)
[2] Balakrishnama,S。;Ganapathiraju,A.,《线性判别分析——简要教程》,信号和信息处理研究所,1998年第18期,第1-8页(1998年)
[3] Bertsekas,D.P.,《约束优化和拉格朗日乘子法》(2014),学术出版社
[4] 博伊德,S。;Vandenberghe,L.,《凸优化》(2004),剑桥大学出版社·Zbl 1058.90049号
[5] Brefeld,U.、Gärtner,T.、Scheffer,T.和Wrobel,S.(2006年)。有效的共同调节最小二乘回归。第23届机器学习国际会议论文集(第137-144页)。
[6] 蔡,D。;何,X。;Han,J.,等距投影,(AAAI(2007)),528-533
[7] Cai,X.、Nie,F.、Cai,W.和Huang,H.(2013)。基于多模态半监督学习模型的异构图像特征集成。IEEE计算机视觉国际会议论文集(第1737-1744页)。
[8] CE,E.4EC41:数字图像处理。
[9] Chong,Y。;丁,Y。;严奇。;Pan,S.,《基于图形的半监督学习:综述》,神经计算(2020年)
[10] Dallal,N.和Triggs,B.(2005年)。人体检测定向梯度直方图。在IEEE计算机学会关于计算机视觉和模式识别的会议上。
[11] 杜克,D。;Frey,B.J.,无监督图像分类的非度量亲和传播,(2007年IEEE第11届计算机视觉国际会议(2007年),IEEE),1-8
[12] 费菲,L。;弗格斯,R。;Perona,P.,《从少数训练示例中学习生成性视觉模型:在101个对象类别上测试的增量贝叶斯方法》,《计算机视觉和图像理解》,106,1,59-70(2007)
[13] Feiping,N。;郭浩,C。;Jing,L。;雪龙,L.,用于图像聚类和半监督分类的自动加权多视图学习,IEEE图像处理汇刊:IEEE信号处理协会出版物,27,31501(2018)·Zbl 1409.94460号
[14] 冯·L。;X孟。;Wang,H.,用于降维的多视图局部低阶嵌入,基于知识的系统,191,第105172页,(2020)
[15] Feng,H.,使用无参数半监督流形学习进行基因分类,IEEE/ACM计算生物学和生物信息学汇刊,9,3,818-827(2011)
[16] Fisher,R.A.,《分类问题中多重测量的使用》,优生学年鉴,7,2,179-188(1936)
[17] 龚,C。;陶,D。;马来亚银行,S.J。;刘伟。;Kang,G。;Yang,J.,半监督图像分类的多模式课程学习,IEEE图像处理学报,25,7,3249-3260(2016)·Zbl 1408.94206号
[18] Greene,D.和Cunningham,P.(2006)。内核文档聚类中对角优势问题的实际解决方案。第23届机器学习国际会议论文集(第377-384页)。
[19] 何,X。;蔡,D。;Yan,S。;张海杰,邻域保护嵌入,(第十届IEEE计算机视觉国际会议(第1、2卷)(2005),IEEE,1208-1213
[20] 何,X。;Niyogi,P.,位置保持投影,(神经信息处理系统的进展(2004)),153-160
[21] Hestenes,M.R.,乘数和梯度方法,优化理论与应用杂志,4,5,303-320(1969)·Zbl 0174.20705号
[22] Karasuyama,M。;Mamitsuka,H.,通过稀疏集成进行多图标记传播,IEEE神经网络和学习系统汇刊,24,12,1999-2012(2013)
[23] LeCun,Y。;博图,L。;Y.本吉奥。;Haffner,P.,《基于梯度的学习应用于文档识别》,IEEE会议记录,86,11,2278-2324(1998)
[24] Li,S.,&Fu,Y.(2013)。用于半监督分类的带b匹配约束的低秩编码。IJCAI(第1472-1478页)。
[25] 李,L。;He,H.,基于二部图的多视图聚类,IEEE知识与数据工程汇刊(2020)
[26] Li,S.,Li,Y.,&Fu,Y..(2016)。多视图时间序列分类:一种判别双线性投影方法。《第25届ACM国际信息与知识管理会议论文集》(第989-998页)。
[27] 李,S。;刘,H。;陶,Z。;Fu,Y.,带自适应标记传播的多视图图学习,(2017 IEEE大数据国际会议(2017),IEEE),110-115
[28] 林·G。;Liao,K。;孙,B。;陈,Y。;Zhao,F.,半监督多模态分类的动态图融合标签传播,模式识别,68,14-23(2017)
[29] 罗,Y。;陶,D。;耿,B。;徐,C。;Maybank,S.J.,用于半监督多标签图像分类的流形正则化多任务学习,IEEE图像处理汇刊,22,2,523-536(2012)·Zbl 1373.94269号
[30] 罗,R.C。;Yih,C.-C。;Su,K.L.,《多传感器融合与集成:方法、应用和未来研究方向》,IEEE传感器杂志,2,2,107-119(2002)
[31] Maaten,L.v.d。;Hinton,G.,使用t-SNE可视化数据,《机器学习研究杂志》,2579-2605年11月9日(2008)·Zbl 1225.68219号
[32] Manna,S。;Khonglah,J.R。;穆克吉,A。;Saha,G.,基于高维数据的核化图形多视图聚类,(2020年国家通信会议(2020年),IEEE),1-6
[33] Nie,F.、Li,J.和Li,X.等人(2016)。无参数自动加权多图学习:多视图聚类和半监督分类的框架。在IJCAI中(第1881-1887页)。
[34] 聂,F。;田,L。;王,R。;Li,X.,图像分类的多视图半监督学习模型,IEEE知识与数据工程汇刊(2019)
[35] Nie,F.、Wang,X.、Jordan,M.I.和Huang,H.(2016)。基于图形聚类的约束拉普拉斯秩算法。第三十届AAAI人工智能会议。
[36] 聂,F。;徐,D。;Tsang,I.W.-H。;Zhang,C.,《柔性流形嵌入:半监督和非监督降维框架》,IEEE图像处理汇刊,1921-1932(2010)·Zbl 1371.94276号
[37] Ojala,T.、Pietikainen,M.和Maenpaa,T.(2002)。具有局部二值模式的多分辨率灰度和旋转不变纹理分类。在IEEE关于模式分析和机器智能的交易中(第971-987页)·Zbl 0977.68853号
[38] 奥利瓦,A。;Torralba,A.,《场景形状建模:空间包络的整体表示》,《国际计算机视觉杂志》,42,3,145-175(2001)·Zbl 0990.68601号
[39] Powell,M.J.,最小化问题中非线性约束的方法,最优化,283-298(1969)·Zbl 0194.47701号
[40] 萨马利亚,F.S。;Harter,A.C.,人脸识别随机模型的参数化,(1994年IEEE计算机视觉应用研讨会论文集(1994),IEEE),138-142
[41] 信德瓦尼,V。;Niyogi,P。;Belkin,M.,《多视角半监督学习的联合正规化方法》,(《ICML多视角学习研讨会论文集》(2005年),Citeser),第74-79页
[42] Sun,S.和Chao,G.(2013年)。多视图最大熵判别。在第二十三届国际人工智能联合会议上。
[43] 陶,H。;侯,C。;聂,F。;朱,J。;Yi,D.,通过自适应回归实现可伸缩多视图半监督分类,IEEE图像处理汇刊,26,9,4283-4296(2017)·兹比尔1409.94583
[44] 王,S。;郭,X。;Tie,Y。;齐,L。;Guan,L.,用于半监督分类的新型加权混合多视图融合算法,(2019年IEEE电路与系统国际研讨会(2019),IEEE),1-5
[45] 王,B。;Tsotsos,J.,半监督多类多标签分类的动态标签传播,模式识别,52,75-84(2016)
[46] Wang,H。;Yang,Y。;Liu,B.,GMC:基于图的多视图聚类,IEEE知识与数据工程汇刊,32,6,1116-1129(2019)
[47] Wang,F。;Zhang,C.,线性邻域中的标签传播,IEEE知识与数据工程汇刊,20,1,55-67(2007)
[48] Wu,F。;Jing,X.-Y。;你,X。;岳,D。;胡,R。;Yang,J.-Y.,用于图像分类的多视图低阶字典学习,模式识别,50,143-154(2016)·Zbl 1394.68319号
[49] 吴杰。;Rehg,J.M.,《CENTRIST:场景分类的可视化描述符》,IEEE模式分析和机器智能汇刊,33,8,1489-1501(2010)
[50] Wu,M.、Yu,K.、Yu、S.和Schölkopf,B.(2007)。本地学习预测。第24届机器学习国际会议论文集(第1039-1046页)。
[51] Xu,X。;Yang,Y。;邓,C。;Nie,F.,多视图降维的自适应图加权,信号处理,165186-196(2019)
[52] Yang,Y。;宋,J。;黄,Z。;马,Z。;塞贝,N。;Hauptmann,A.G.,通过分层回归进行多媒体分析的多特征融合,IEEE多媒体汇刊,15,3,572-581(2012)
[53] Yang,Y。;詹,D.-C。;Wu,Y.-F。;刘,Z.-B。;熊,H。;Jiang,Y.,具有不完全模式的半监督多模式聚类和分类,IEEE知识与数据工程汇刊(2019)
[54] 赵,J。;谢,X。;Xu,X。;Sun,S.,《多视角学习概述:最新进展和新挑战》,《信息融合》,38,43-54(2017)
[55] 周,D。;O.布斯克。;Lal,T.N。;韦斯顿,J。;Schölkopf,B.,《局部和全局一致性学习》,(神经信息处理系统进展(2004)),第321-328页
[56] Zhu,X.、Ghahramani,Z.和Lafferty,J.D.(2003)。使用高斯场和调和函数的半监督学习。《第20届机器学习国际会议论文集》(第912-919页)。
[57] 诸葛·W。;侯,C。;彭,S。;Yi,D.,多视图半监督分类的联合共识和多样性,机器学习,1-21(2019)
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。