×

多标签最优利润分配机。 (英语) Zbl 1494.68230号

摘要:多标签支持向量机(Rank-SVM)是一种经典且有效的多标签分类算法。其核心思想是最大化标签对的最小边距,这是对SVM的扩展。然而,最近的研究表明,最大化最小裕度并不一定会导致更好的泛化性能,相反,优化裕度分布更为关键。受此启发,本文首先将边缘分布引入多标签学习,提出了多标签最优边缘分布机器(mlODM),该机器有效地优化了所有标签对的边缘均值和方差。对多个多标签评估指标的大量实验表明,mlODM优于SVM风格的多标签方法。此外,实证研究给出了最佳边际分布,并验证了该方法的快速收敛性。

MSC公司:

68T05型 人工智能中的学习和自适应系统
62H30型 分类和区分;聚类分析(统计方面)
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] 布特尔,MR;罗,J。;沈,X。;Brown,CM,学习多标签场景分类,模式识别,37,9,1757-1771(2004)·doi:10.1016/j.patcog.2004.03.009文件
[2] Breiman,L.,预测游戏和电弧算法,神经计算,11,7,1493-1517(1999)·Zbl 1508.68280号 ·数字对象标识代码:10.1162/08997669900016106
[3] 科尔特斯,C。;Vapnik,V.,支持向量网络,机器学习,20,3,273-297(1995)·Zbl 0831.68098号
[4] Elisseeff,A.和Weston,J.(2002)。一种多标记分类的核方法。T.G.Dietterich、S.Becker和Z.Ghahramani(编辑),《神经信息处理系统的进展》(第681-687页)。麻省理工学院出版社。
[5] M.弗兰克。;Wolfe,P.,《二次规划的算法》,《海军研究后勤季刊》,3,1-2,95-110(1956)·doi:10.1002/nav.3800030109
[6] 弗伦德,Y。;Schapire,RE,《在线学习的决策理论推广及其在助推中的应用》,《计算机与系统科学杂志》,55,1,119-139(1997)·Zbl 0880.68103号 ·doi:10.1006/jcss.1997.1504
[7] 高,W。;周,ZH,关于提升边际解释的质疑,人工智能,203,1-18(2013)·兹比尔1329.68215 ·doi:10.1016/j.artint.2013.07.002
[8] Guo,Y.和Schuurmans,D.(2011)。多标签分类的自适应大幅度训练。摘自:W.Burgard和D.Roth(编辑),第25届AAAI人工智能会议。加利福尼亚州旧金山:AAAI出版社。
[9] Jiang,A.、Wang,C.和Zhu,Y.(2008)。用于多标签图像分类的校准秩SVM。2008年,IEEE神经网络国际联合会议(IEEE计算智能世界大会)(第1450-1455页)。电气与电子工程师协会。
[10] 刘,Z。;崔,Y。;Li,W.,使用EEMD和秩小波SVM的复杂电能质量扰动分类方法,IEEE智能电网交易,6,4,1678-1685(2015)·doi:10.1109/TSG.2015.2397431
[11] Lv,S.H.,Wang,L.,&Zhou,Z.H.(2018)。最优保证金分配网络。arXiv预印本arXiv:1812.10761
[12] McCallum,A.(1999)。使用EM训练的混合模型进行多标签文本分类。AAAI文本学习研讨会(第1-7页)
[13] Reyzin,L.和Schapire,R.E.(2006年)。如何提高边缘也可以提高分类器的复杂性。第23届机器学习国际会议论文集(第753-760页)。ACM。
[14] 里奇塔里克,P。;Takáč,M.,最小化复合函数的随机块坐标下降方法的迭代复杂性,数学规划,144,1-2,1-38(2014)·Zbl 1301.65051号 ·doi:10.1007/s10107-012-0614-z
[15] 沙佩尔,RE;弗伦德,Y。;Bartlett,P。;Lee,WS,《提高利润率:投票方法有效性的新解释》,《统计年鉴》,第26期,第5期,第1651-1686页(1998年)·Zbl 0929.62069号 ·doi:10.1214/aos/1024691352
[16] 夏皮雷,RE;Singer,Y.,Boostexter:一个基于boosting-based的文本分类系统,机器学习,39,2-3,135-168(2000)·Zbl 0951.68561号 ·doi:10.1023/A:1007649029923
[17] 朔尔科普夫,B。;Smola,AJ,《使用内核学习:支持向量机、正则化、优化和超越》(2001),剑桥:麻省理工学院出版社,剑桥
[18] Sha,F.、Saul,L.K.和Lee,D.D.(2002年)。支持向量机中非负二次规划的乘法更新。S.Becker、S.Thrun和K.Obermayer(编辑)《神经信息处理系统的进展》(第1041-1048页)。麻省理工学院出版社。
[19] Tan,Z.H.,Zhang,T.,&Zhou,Z.H(2019)。核集随机方差减少梯度及其在最优利润分配机中的应用。在第33届AAAI人工智能会议上。
[20] Tsochantaridis,I。;约阿希姆斯,T。;霍夫曼,T。;Altun,Y.,《结构化和相互依赖输出变量的大幅度方法》,《机器学习研究杂志》,1453-1484年9月6日(2005)·Zbl 1222.68321号
[21] Tsoumakas,G。;Katakis,I。;Vlahavas,I.,多标签分类的随机k标签集,IEEE知识与数据工程汇刊,23,7,1079-1089(2011)·doi:10.1010/TKDE.2010.164
[22] Tsoumakas,G。;Spyromitros-Xioufis,E。;维尔切克,J。;Vlahavas,I.,Mulan:用于多标签学习的java库,《机器学习研究杂志》,第12期,第2411-2414页(2011年)·Zbl 1280.68207号
[23] 特恩布尔,D。;巴林顿,L。;托雷斯,D。;Lanckriet,G.,音乐和声音效果的语义注释和检索,IEEE音频、语音和语言处理汇刊,16,2,467-476(2008)·doi:10.1109/TASL.2007.913750
[24] Vapnik,VN,《统计学习理论的本质》(1995),柏林:施普林格出版社,柏林·Zbl 0833.62008号
[25] Wu,X.Z.,&Zhou,Z.H.(2017)。多标签性能度量的统一视图。第34届机器学习国际会议论文集(第70卷,第3780-3788页)。JMLR.org。
[26] Xu,J.,带零标签的高效多标签支持向量机,应用专家系统,39,5,4796-4804(2012)·doi:10.1016/j.eswa.2011.09.138
[27] Xu,J.,快速多标签核向量机,模式识别,46,3,885-898(2013)·Zbl 1254.68233号 ·doi:10.1016/j.patcog.2012.09.003
[28] 徐建华,多标签支持向量机的随机块坐标下降法,神经信息处理,281-290(2013),柏林,海德堡:施普林格-柏林-海德堡,柏林
[29] Xu,J.,带随机块坐标下降法的多拉格朗日支持向量机,信息科学,329184-205(2016)·兹比尔1390.68561 ·doi:10.1016/j.ins.2015.09.023
[30] 张敏玲;李宇坤;刘旭英;耿欣,《多标签学习的二进制相关性:概述》,《计算机科学前沿》,第12、2、191-202页(2018年)·doi:10.1007/s11704-017-7031-7
[31] 周志华,《弱监督学习简介》,《国家科学评论》,2017年第5期,第1期,第44-53页·doi:10.1093/nsr/nwx106
[32] 张,ML;Zhou,ZH,多标签神经网络及其在功能基因组学和文本分类中的应用,IEEE知识与数据工程汇刊,18,10,1338-1351(2006)·doi:10.1010/TKDE.2006.162
[33] 张,ML;Zhou,ZH,Ml-KNN:多标签学习的惰性学习方法,模式识别,40,7,2038-2048(2007)·Zbl 1111.68629号 ·doi:10.1016/j.patcog.2006.12.019
[34] 张,ML;Zhou,ZH,多标签学习算法综述,IEEE知识与数据工程汇刊,26,8,1819-1837(2014)·doi:10.1109/TKDE.2013.39
[35] Zhang,T.,&Zhou,Z.H.(2014年b)。大利润分配机。第20届ACM SIGKDD知识发现和数据挖掘国际会议论文集(第313-322页)。ACM。
[36] Zhang,T.,&Zhou,Z.H.(2017)。多级最优利润分配机。第34届国际机器学习会议论文集(第70卷,第4063-4071页)。JMLR.org。
[37] Zhang,T.,&Zhou,Z.H.(2018)。最佳边际分布聚类。在第22届AAAI人工智能会议上。
[38] Zhang,T.,&Zhou,Z.H.(2018a)。半监督最优利润分配机器。Jéróme Lang(编辑)第27届国际人工智能联合会议记录(第3104-3110页)。瑞典斯德哥尔摩:IJCAI。
[39] 周振华(2019)。外展学习:将机器学习和逻辑推理联系起来。科学中国信息科学,62(7),76101。
[40] Zhang,T.,&Zhou,Z.(2019年)。最佳利润分配机。IEEE知识与数据工程汇刊10.1109/TKDE.2019.2897662。
[41] 周,YH;Zhou,ZH,带成本区间和未标记数据的大利润分布学习,IEEE知识与数据工程学报,28,7,1749-1763(2016)·doi:10.1109/TKDE.2016.2535283
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。