×

多视图学习的耦合特权内核方法。 (英语) Zbl 1443.68157号

摘要:多视图学习专注于充分利用从不同领域收集的数据或从各种特征提取器获得的数据来有效地学习。共识和互补原则为多视图建模提供了重要指导。许多基于支持向量机(SVM)的多视图学习模型已经被提出,它们主要通过利用正则化项的标签相关性来遵循一致性原则。本文提出了一种简单有效的多视图学习耦合特权核方法,称为MCPK。原始目标中包含的耦合项允许将来自所有视图的错误组合最小化,这保证了共识原则。与我们之前的工作PSVM-2V类似,MCPK通过应用特权信息学习(LUPI)范式实现互补原则。该模型不仅充分集成了学习过程中各个视图的信息,而且在一定程度上保持了不同视图的特点。我们使用标准的二次规划求解器来求解MCPK。此外,我们从泛化能力以及PSVM-2V和SVM-2K模型的角度对MCPK的性能进行了理论分析。实验结果表明,MCPK在分类精度和效率方面比其他最先进的多视图算法更优越。

MSC公司:

68T05型 人工智能中的学习和自适应系统
62H30型 分类和区分;聚类分析(统计方面)
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] 巴赫,F.R。;兰克里特,G.R。;Jordan,M.I.,《多核学习、二次曲线对偶和smo算法》,机器学习国际会议论文集,6-13(2004),ACM
[2] Balcan,M。;Blum,A。;Yang,K.,共同训练和扩展:走向理论和实践的桥梁,神经信息处理系统年会论文集,29-58(2004)
[3] Bang,S。;Kang,J。;Jhun,M。;Kim,E.,带分组变量的分层惩罚支持向量机,Int.J.Mach。学习。赛博。,8, 4, 1211-1221 (2017)
[4] Bartlett,P。;Mendelson,S.,Rademacher和高斯复杂性:风险边界和结构结果,J.Mach。学习。决议,3463-482(2003)·Zbl 1084.68549号
[5] Blum,A。;Mitchell,T.,将标记和未标记数据与联合训练相结合,计算学习理论年度会议论文集,92-100(1998)
[6] 赵,G。;Sun,S.,《基于共识和互补性的多视角分类最大熵判别》,《信息科学》。,367-368, 296-310 (2016) ·Zbl 1428.68232号
[7] 陈,X。;尹,H。;江,F。;Wang,L.,基于通用学习的多视角维度约简,神经计算,2752279-2286(2018)
[8] 达斯,S.P。;Padhy,S.,一种新的混合模型,使用基于教学-学习的优化和支持向量机进行商品期货指数预测,Int.J.Mach。学习。赛博。,9, 1, 97-111 (2018)
[9] Demšar,J.,多数据集上分类器的统计比较,J.Mach。学习。研究,7,1-30(2006)·Zbl 1222.68184号
[10] 邓,N。;田,Y。;Zhang,C.,《支持向量机:基于优化的理论、算法和扩展》(2012),CRC出版社
[11] Deshmukh,A.B。;Rani,N.U.,基于分数灰狼优化器的多视角人脸视频超分辨率核加权回归模型,Int.J.Mach。学习。赛博。,1-19 (2017)
[12] Eidenberger,H.,用于图像检索的基于内容的mpeg-7描述符的统计分析,多媒体。系统。,10, 2, 84-97 (2004)
[13] 法夸尔,J。;哈东,D。;孟,H。;肖-泰勒,J。;Szedmak,S.,《双视角学习:Svm-2k,理论与实践》,《神经信息处理系统年度会议论文集》,355-362(2005)
[14] Fukumizu,K。;巴赫,F。;Gretton,A.,核典型相关分析的统计一致性,J.Mach。学习。研究,8361-383(2007)·兹比尔1222.62063
[15] 高,X。;范,L。;Xu,H.,矩阵数据分类的多秩多线性核支持向量机,Int.J.Mach。学习。赛博。,9, 2, 251-261 (2018)
[16] Hardoon,D.R。;Shawe-Taylor,J.,《核典型相关分析的收敛性分析:理论与实践》,马赫。学习。,74, 1, 23-38 (2009) ·Zbl 1473.62194号
[17] 休斯顿。;朗根,R。;Suykens,J.A.K.,多视图核谱聚类,Inf.Fusion,44,46-56(2018)
[18] Houthuys,L。;朗根,R。;Suykens,J.A.K.,多视图最小二乘支持向量机分类,神经计算,28278-88(2018)
[19] 库马尔,A。;Daumé,H.,多视角谱聚类的联合训练方法,机器学习国际会议论文集,393-400(2011)
[20] 李,B。;袁,C。;熊,W。;胡,W。;彭,H。;丁,X。;Maybank,S.,基于联合稀疏表示和多视图字典学习的多视图多实例学习,IEEE Trans。模式分析。机器。智力。,39, 12, 2554-2560 (2017)
[21] 李,J。;奈杰尔,A。;陶,D。;Li,X.,图像检索的多训练支持向量机,IEEE Trans。图像处理。,15, 11, 3597-3601 (2006)
[22] 李,Y。;Shawe-Taylor,J.,《跨语言专利检索和分类的高级学习算法》,信息处理和管理,43,5,1183-1199(2007)
[23] 刘,A。;徐,N。;聂文忠。;Su,Y.T。;Wong,Y。;Kankanhalli,M.,《人类行为识别的多模式、多视图和交互式数据集基准测试》,IEEE Trans。赛博。,47, 7, 1781-1794 (2017)
[24] 毛,L。;Sun,S.,基于软边界一致性的可扩展多视图最大熵判别,国际人工智能联合会议论文集,1839-1845(2016)
[25] O·梅纳德。;Frezza-Buet,H.,多模态皮层处理模型:自组织模块中的相干学习,神经网络,18,5,646-655(2005)
[26] 彭杰。;Aved,A.J。;Seetharaman,G。;Palaniappan,K.,《利用信息传播进行分类的多视图增强》,IEEE Trans。神经网络。学习。系统。,29, 3, 657-669 (2018)
[27] 彭杰。;罗,P。;关,Z。;Fan,J.,图正则化多视图语义子空间学习,Int.J.Mach。学习。赛博。,1-17 (2017)
[28] 阿科托马蒙杰,A。;巴赫,F.R。;卡努,S。;格兰代客,Y.,Simplemkl,J.马赫。学习。第9、3、2491-2521号决议(2008年)·Zbl 1225.68208号
[29] 沈,X。;牛,L。;齐,Z。;田,Y.,带截断弹球损失的支持向量机分类器,模式识别。,68, 199-210 (2017)
[30] Sonnenburg,S。;Rätsch,G。;Schäfer,C。;Schölkopf,B.,大规模多核学习,J.马赫。学习。第7号决议,1531-1565(2006)·Zbl 1222.90072号
[31] 孙,J。;Keates,S.,《带审查和错误信息的数据典型相关分析》,IEEE Trans。神经网络。学习。系统。,24, 12, 1909-1919 (2013)
[32] Sun,S.,多视图拉普拉斯支持向量机,高级数据挖掘和应用国际会议,209-222(2011),Springer
[33] Sun,S。;Chao,G.,《多视角最大熵判别》,《国际人工智能联合会议论文集》,1706-1712(2013),AAAI出版社
[34] Sun,S。;Shawe-Taylor,J.,《使用共轭函数的稀疏半监督学习》,J.Mach。学习。第11号决议,2423-2455(2010年)·Zbl 1242.68251号
[35] Sun,S。;谢,X。;Yang,M.,多视角非相关判别分析,IEEE Trans。赛博。,46, 12, 3272-3284 (2016)
[36] Tang,J。;Tian,Y.,带非并行支持向量机的多核框架,神经计算,266226-238(2017)
[37] Tang,J。;田,Y。;张,P。;Liu,X.,多视图特权支持向量机,IEEE Trans。神经网络。学习。系统。,29, 8, 3463-3477 (2018)
[38] 田,Y。;Shi,Y。;Liu,X.,支持向量机研究的最新进展,Technol。经济。发展经济学。,18, 1, 5-33 (2012)
[39] Wang,W。;Zhou,Z.,《联合训练的新分析》,《机器学习国际会议论文集》,1135-1142(2010)
[40] Wang,Y。;张伟。;Wu,L。;林,X。;Zhao,X.,通过基于图随机行走的交叉视图扩散对多视图数据进行无监督度量融合,IEEE Trans。神经网络。学习。系统。,28, 1, 57-70 (2017)
[41] 徐振中、陶振中、徐振中,多视角学习研究,arXiv:1304.5634;C.Xu、D.Tao、C.Xu,多视角学习调查,arXiv:1304.5634
[42] 徐,C。;陶,D。;Xu,C.,多视图完整空间学习,IEEE Trans。模式分析。机器。智力。,2531-2544年12月37日(2015年)
[43] 薛,Z。;李·G。;Huang,Q.,通过最优预测子空间学习实现联合多视图表示和图像标注,Inf.Sci。,451-452, 180-194 (2018) ·Zbl 1440.68318号
[44] Yang,X.先生。;刘,W。;陶,D。;Cheng,J.,用于双视图图像识别的典型相关分析网络,信息科学。,385-386, 338-352 (2017)
[45] 杨振明。;吴,H.-J。;李,C.-N。;Shao,Y.-H.,用于多类分类的最小二乘递推投影双支持向量机,Int.J.Mach。学习。赛博。,7, 3, 411-426 (2016)
[46] 郑伟。;周,X。;邹,C。;赵,L.,基于核典型相关分析的面部表情识别,IEEE Trans。神经网络。,17, 1, 233-238 (2006)
[47] 朱,P。;朱伟。;胡,Q。;张,C。;Zuo,W.,子空间聚类引导的无监督特征选择,模式识别。,66,C,364-374(2017)
[48] 庄,F。;Karypis,G。;宁,X。;何,Q。;施,Z.,基于概率潜在语义分析的多视角学习,信息科学。,199, 20-30 (2012)
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。