×

具有多类视觉分类应用程序的数据相关多核组合模型的在线原始-对偶学习。 (英语) Zbl 1390.68533号

摘要:随着样本或类数量的增加,视觉分类的任务变得非常具有挑战性。这主要是由于内存需求大或语义空间拥挤,导致类分离困难。本文提出了一种新的方法OPrDuM2(在线原始-对偶多核多类)。这种新算法可以显著降低视觉分类的复杂性。在该方法中,使用优雅的异构特征融合机来合并互补的类鉴别信息,并使用在线学习来处理大样本。具体地说,通过扩展多核学习模型,定义了一个以非线性方式融合多个异构特征的数据相关多核机器,并使用多元铰链损失和保守更新规则来增加模型中的样本级稀疏性。给定样本、特征和类的固有层次结构,利用具有强凸性的创新三重混合形式正则化器来促进优化。使用对偶语言导出了迭代解,得到了低遗憾界\(O\左(\sqrt{T}\右)\),其中\(T\)是在线迭代次数。本文详细证明了该算法的收敛性,并描述了大量可视化数据分类实验,证明了该新方法的有效性和鲁棒性。

理学硕士:

68T05型 人工智能中的学习和自适应系统
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[3] Ben-Hur,A。;霍恩,D。;Siegelmann,H.T。;Vapnik,V.,支持向量聚类,J.Mach。学习。决议,2125-137(2001)·Zbl 1002.68598号
[5] 布热津斯基,D。;Stefanowski,J.,《将基于块的方法与在线方法相结合,从概念漂移数据流中学习集成》,《信息科学》。,265, 1, 50-67 (2014) ·Zbl 1328.68158号
[6] Buhmann,M.D.,《径向基函数:理论与实现》(2003),剑桥大学出版社:剑桥大学出版社,加利福尼亚州剑桥·Zbl 1038.41001号
[18] Gönen,M。;Alpaydñn,E.,多核学习的本地化算法,模式记录。,46, 3, 795-807 (2013) ·Zbl 1254.68204号
[20] Gönen,M。;Alpaydñn,E.,《多核学习算法》,J.Mach。学习。第12号决议,2211-2268(2011年)·Zbl 1280.68167号
[23] 海,S.C.H。;Wang,J。;Zhao,P.,LIBOL:在线学习算法库,J.Mach。学习。决议,第15号,第495-499页(2014年)·Zbl 1317.68164号
[24] 海,S.C.H。;金·R。;赵,P。;Yang,T.,在线多核分类,马赫。学习。,90, 289-316 (2013) ·Zbl 1260.68332号
[26] 黄,S。;Jin,L。;方,Y。;Wei,X.,用于视觉识别的在线异构特征融合机,神经计算,123,1010-109(2014)
[29] Abdul Karim,医学硕士。;Wong,K.S.,使用双重语义代码的通用域数据融合,Inf.Sci。,283, 1, 123-141 (2014)
[33] Kloft,M。;英国布雷菲尔德。;Sonnenburg,S。;Zien,A.,Lp-范数多核学习,J.Mach。学习。决议,12953-997(2011)·兹比尔1280.68173
[34] Kloft,M。;Blanchard,G.,关于Lp-范数多核学习的收敛速度,J.Mach。学习。第132465-2502号决议(2012年)·Zbl 1433.68356号
[37] 柳叶刀,G。;北卡罗来纳州克里斯蒂亚尼尼。;Ghaoui,L.E。;Bartlett,P。;Jordan,M.,《用半定规划学习核矩阵》,J.Mach。学习。研究,5,27-72(2004)·Zbl 1222.68241号
[38] LeCun,Y。;博图,L。;本吉奥,Y。;Haffner,P.,《基于梯度的学习应用于文档识别》,Proc。IEEE,86,11,2278-2324(1998)
[40] 杠杆G。;Diethe,T。;Shawe-Taylor,J.,《近线性时间中的数据依赖核》,J.Mach。学习。研究,22,685-693(2012)
[43] Lowe,D.,《不同尺度关键点的独特图像特征》,《国际比较杂志》。可见。,60, 2, 91-110 (2004)
[47] 米切利,C。;Pontil,M.,通过正则化学习核函数,J.Mach。学习。第6号决议,1099-1125(2005)·Zbl 1222.68265号
[50] Ojala,T。;Pietikainen,M。;Maenpaa,T.,具有局部二进制模式的多分辨率灰度和旋转不变纹理分类,IEEE Trans。模式分析。机器。智力。,24, 7, 971-987 (2002)
[51] 奥利瓦,A。;Torralba,A.,《场景形状建模:空间包络线的整体表示》,《国际比较杂志》。可见。,42, 3, 145-175 (2001) ·Zbl 0990.68601号
[55] van de Sande,K.E.A。;Gevers,T。;斯诺克,C.G.M.,评估物体和场景识别的颜色描述符,IEEE Trans。模式分析。机器。智力。,32, 9, 1582-1596 (2010)
[58] 沙列夫·施瓦茨,S。;Singer,Y.,通过多面体上的软投影有效学习标签排名,J.Mach。学习。第71567-1599号决议(2006年)·Zbl 1222.68302号
[60] 邵,L。;吴博士。;Li,X.,《学习深度和广度:学习深度网络的谱方法》,IEEE Trans。神经网络。学习。系统。,25, 12, 2303-2308 (2014)
[61] 邵,L。;朱,F。;Li,X.,视觉分类的迁移学习:一项调查,IEEE Trans。神经网络。学习。系统。,PP,99,1-16(2014)
[62] 邵,L。;刘,L。;Li,X.,通过多目标遗传编程进行图像分类的特征学习,IEEE Trans。神经网络。学习。系统。,25, 7, 1359-1371 (2014)
[65] Sonnenburg,S。;Rätsch,G.等人。;Schäfer,C。;Schölkopf,B.,大规模多核学习,J.Mach。学习。第7号决议,1531-1565(2006)·兹比尔1222.90072
[66] Sonnenburg,S。;Rätsch,G。;Schäfer,C.,学习生物序列分类的可解释SVM,BMC Bioinf。,389-407 (2005) ·Zbl 1119.92334号
[67] 铃木,T。;Tomioka,R.,SpicyMKL:一种具有数千个内核的多内核学习快速算法,J.Mach。学习。研究,85,77-108(2011)·Zbl 1237.68166号
[68] 萨夫兰斯基,M。;Grandvalet,Y。;Rakotomamonjy,A.,复合内核学习,J.Mach。学习。决议,79,73-103(2010年)·Zbl 1470.68184号
[71] Tibshiranit,R.,《通过LASSO,J.Roy进行回归收缩和选择》。统计师。Soc.序列号。B方法。,58, 1, 267-288 (1996) ·兹比尔0850.62538
[76] 王,Z。;崔,P。;李,F。;Chang,E。;Yang,S.,图像特征提取与融合的数据驱动研究,信息科学。,281, 10, 536-558 (2014)
[77] 夏,Y。;Leung,H.,统计最优数据融合算法的性能分析,信息科学。,277, 1, 808-824 (2014) ·Zbl 1359.62274号
[79] Xu,X。;Tsang,I.W。;Xu,D.,软边界多核学习,IEEE Trans。神经网络。学习。系统。,24, 3, 749-761 (2013)
[81] Yang,H。;徐,Z。;Ye,J。;国王一世。;Lyu,M.R.,高效稀疏广义多核学习,J.神经网络。,22, 3, 433-446 (2011)
[82] Ye,J。;季S。;Chen,J.,通过凸规划进行多类判别核学习,J.Mach。学习。第9719-758号决议(2008年)·Zbl 1225.68223号
[83] Yeh,C.Y。;黄,C.W。;Lee,S.J.,用于多类分类的多核支持向量聚类,J.Mach。学习。第6、6、1-18号决议(2010年)
[84] Ying,Y.M。;黄,K.Z。;Campbell,C.,通过新型数据集成方法增强蛋白质折叠识别,BMC Bioinf。,10267(2009年)
[86] Yu,S。;Falck,T。;Daemen,A。;特拉谢万特,L.-C。;苏肯斯,J。;De Moor,B。;Moreau,Y.,L2-形式多核学习及其在生物医学数据融合中的应用,BMC Bioinf。,11, 309-332 (2010)
[88] 朱,F。;Shao,L.,Weakly-supervised cross-domain dictionary learning for visual recognition,国际比较杂志。可见。,109, 1-2, 42-59 (2014) ·Zbl 1328.68255号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。