×

多实例学习的多样化词典。 (英语) Zbl 1429.68238号

摘要:多实例学习(MIL)由于在药物活性预测和图像/文本分类等任务中的有用性,多年来一直是模式识别研究中的一个热门话题。在典型的故障指示灯设置中,一个行李包含一个行李级别标签和多个实例/图案。如何将实例级表示连接到包级标签是获得令人满意的分类精度结果的关键步骤。在本文中,我们提出了一种有监督的学习方法,即多样化词典MIL,来解决这个问题。一方面,我们的方法利用袋级标签信息来训练特定类别的词典。另一方面,它将多样性正则化器引入到特定类词典中,以避免它们之间的歧义。据我们所知,这是第一次引入多样性先验来解决MIL问题。在几个基准(药物活性和图像/文本注释)数据集上进行的实验表明,与最先进的方法相比,该方法具有更好的性能。

MSC公司:

68T05型 人工智能中的学习和自适应系统
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] Dietterich,T.G。;拉思罗普,R.H。;Lozano-Pérez,T.,用轴平行矩形解决多实例问题,Artif。智力。(AI),89,1,31-71(1997)·兹比尔1042.68650
[2] Shrivastava,A。;帕特尔,V.M。;Pillai,J.K。;Chellappa,R.,《多实例学习的通用词典》,《国际计算机杂志》。视觉。(IJCV),114,2-3,288-305(2015)·兹比尔1398.68459
[3] 切普利吉纳,V。;税务博士。;Loog,M.,《基于差异的多实例学习集成》,IEEE Trans。神经网络。学习。系统。(TNNLS),27,6,1379-1391(2016)
[4] 切普利吉纳,V。;税务博士。;Loog,M.,带袋差异的多实例学习,模式识别。(公共关系),48,1,264-275(2015)
[5] D.Zhang,J.He,R.Lawrence,Mi2ls:《从多个信息源进行多实例学习》,载于《SIGKDD知识发现和数据挖掘会议论文集》,ACM,美国伊利诺伊州芝加哥,2013年,第149-157页。;D.Zhang,J.He,R.Lawrence,Mi2ls:《从多个信息源进行多实例学习》,载于《SIGKDD知识发现和数据挖掘会议论文集》,ACM,美国伊利诺伊州芝加哥,2013年,第149-157页。
[6] 爱泼斯坦,L.G。;Schneider,M.,《模棱两可的学习》,《经济学评论》。螺柱,74,4,1275-1303(2007)·Zbl 1206.91020号
[7] S.Andrews,I.Tsochantaridis,T.Hofmann,用于多站学习的支持向量机,收录于:《神经信息处理系统进展学报》,2002年,第561-568页。;S.Andrews,I.Tsochantaridis,T.Hofmann,用于多站学习的支持向量机,收录于:《神经信息处理系统进展学报》,2002年,第561-568页。
[8] 朱毅、吴建军、姜毅、周志宏,《用增强多实例视图学习》,载《亚洲机器学习会议论文集》,越南芽庄市,2014年,第234-249页。;Y.Zhu,J.Wu,Y.Jiang,Z.-H.Zhou,《使用增强多实例视图进行学习》,载于:《亚洲机器学习会议论文集》,越南芽庄市,2014年,第234-249页。
[9] O.Maron,A.L.Ratan,《自然场景分类的多实例学习》,载《国际机器学习会议论文集》,1998年第98卷,第341-349页。;O.Maron,A.L.Ratan,《自然场景分类的多实例学习》,载于《国际机器学习会议论文集》,1998年第98卷,第341-349页。
[10] G.Liu,J.Wu,Z.-H.Zhou,多实例学习中的关键实例检测,载《亚洲机器学习会议论文集》,2012年,第253-268页。;G.Liu,J.Wu,Z.-H.Zhou,多实例学习中的关键实例检测,载《亚洲机器学习会议论文集》,2012年,第253-268页。
[11] 王,X。;李,Z。;Tao,D.,用于图像搜索的Grassmann流形上的子空间索引模型,IEEE Trans。图像处理。(TIP),第20、9、2627-2635页(2011年)·Zbl 1372.94264号
[12] C.Yang,T.Lozano-Perez,《利用多实例学习技术进行图像数据库检索》,载于:《国际数据工程会议论文集》,IEEE,美国加利福尼亚州圣地亚哥,2000年,第233-243页。;C.Yang,T.Lozano-Perez,《利用多实例学习技术进行图像数据库检索》,载于:《国际数据工程会议论文集》,IEEE,美国加利福尼亚州圣地亚哥,2000年,第233-243页。
[13] Q.Zhang,S.A.Goldman,W.Yu,J.E.Fritts,使用多实例学习的基于内容的图像检索,收录于:《国际机器学习会议论文集》,第2卷,Citeser,澳大利亚悉尼,2002年,第682-689页。;Q.Zhang,S.A.Goldman,W.Yu,J.E.Fritts,使用多实例学习的基于内容的图像检索,收录于:《国际机器学习会议论文集》,第2卷,Citeser,澳大利亚悉尼,2002年,第682-689页。
[14] X.Wang,Z.Li,L.Zhang,J.Yuan,Grassmann散列用于高维空间中的近似最近邻搜索,载于:国际多媒体与博览会会议记录,IEEE,西班牙巴塞罗那,2011年,第1-6页。;X.Wang,Z.Li,L.Zhang,J.Yuan,高维空间中近似最近邻搜索的Grassmann散列,收录于:《国际多媒体与博览会会议论文集》,IEEE,西班牙巴塞罗那,2011年,第1-6页。
[15] 巴纳德,K。;Duygulu,P。;福赛斯,D。;De Freitas,N。;布莱,D.M。;Jordan,M.I.,匹配单词和图片,J.Mach。学习。决议(JMLR),31107-1135(2003)·Zbl 1061.68174号
[16] 沈伟(Shen,W.)。;Bai,X。;Hu,Z。;Zhang,Z.,通过部分随机投影树学习自然图像中局部反射对称性的多实例子空间,模式识别。(公共关系),52306-316(2016)
[17] X.Wang,Z.Z.Zu,C.Yao,X.Bai,Relaxed multi-instance svm及其在对象发现中的应用,载《计算机视觉国际会议论文集》,2015年,第1224-1232页。;X.Wang,Z.Z.Zu,C.Yao,X.Bai,《松弛多实例支持向量机及其在对象发现中的应用》,载《计算机视觉国际会议论文集》,2015年,第1224-1232页。
[18] X.Wang,Z.Zhang,Y.Ma,X.Bai,W.Liu,Z.Tu,通过鲁棒pca进行公共对象发现的一类多实例学习,收录于:《亚洲计算机视觉会议论文集》,韩国大田施普林格,2012年,第246-258页。;X.Wang,Z.Zhang,Y.Ma,X.Bai,W.Liu,Z.Tu,通过鲁棒pca实现公共对象发现的一类多实例学习,收录于:《亚洲计算机视觉会议论文集》,韩国大田施普林格,2012年,第246-258页。
[19] 王,X。;卞,W。;Tao,D.,用于图像分类的格拉斯曼正则化结构化多视图嵌入,IEEE Trans。图像处理。(TIP),22,7,2646-2660(2013)·Zbl 1373.94435号
[20] X.Xu,E.Frank,标签实例包的Logistic回归和增强,收录于:太平洋亚洲知识发现和数据挖掘会议(PAKDD),Springer,Sydney,Australia,2004,pp.272-281。;X.Xu,E.Frank,标签实例包的Logistic回归和增强,摘自:《亚太知识发现和数据挖掘会议论文集》,澳大利亚悉尼斯普林格,2004年,第272-281页。
[21] Z.-H.Zhou,Y.-Y.Sun,Y.-F.Li,通过将实例视为非i.i.d样本进行多实例学习,摘自:《国际机器学习会议论文集》,加拿大蒙特利尔,2009年,第1249-1256页。;Z.-H.Zhou,Y.-Y.Sun,Y.-F.Li,通过将实例视为非i.i.d.样本进行多实例学习,载于:《国际机器学习会议论文集》,加拿大蒙特利尔,2009年,第1249-1256页。
[22] 陈,Y。;Bi,J。;Wang,J.Z.,通过嵌入式实例选择进行Miles多实例学习,IEEE Trans。模式分析。机器。智力。(PAMI),28,121931-1947(2006)
[23] 周,Z.-。H。;张,M.-。L.,基于构造聚类的分类器集成解决多实例问题,Knowl。信息系统。(KIS),11,2,155-170(2007)
[24] X.-S.Wei,J.Wu,Z.-H.Zhou,多实例学习的可伸缩算法,IEEE Trans。神经网络。学习。系统。(TNNLS)(2016),http://dx.doi.org/10.109/TNNLS.2016.2519102X.-S.Wei,J.Wu,Z.-H.Zhou,多实例学习的可伸缩算法,IEEE Trans。神经网络。学习。系统。(TNNLS)(2016),http://dx.doi.org/10.109/TNNLS.2016.2519102
[25] Amores,J.,《多实例分类综述、分类学和比较研究》,Artif。智力。(AI),201,81-105(2013)·Zbl 1334.68176号
[26] 张,M.-。法律。;周,Z.-。H.,多标签学习算法综述,IEEE Trans。知识。数据工程(TKDE),26,8,1819-1837(2014)
[27] Zhou Z.-H.,《多实例学习:调查》,技术报告,南京大学计算机科学与技术系,2004年。;Z.-H.Zhou,《多实例学习:一项调查》,技术报告,南京大学计算机科学与技术系,2004年。
[28] B.Babenko,《多实例学习:算法和应用》,查看文章PubMed/NCBI谷歌学者,2008年。;B.Babenko,《多实例学习:算法和应用》,查看文章PubMed/NCBI谷歌学者,2008年。
[29] X.-S.Wei,J.Wu,Z.-H.Zhou,可扩展多实例学习,摘自:《国际数据挖掘会议论文集》,IEEE,中国深圳,2014年,第1037-1042页。;X.-S.Wei,J.Wu,Z.-H.Zhou,可扩展多实例学习,摘自:《国际数据挖掘会议论文集》,IEEE,中国深圳,2014年,第1037-1042页。
[30] 马龙,O。;Lozano-Pérez,T.,《多实例学习框架》,570-576(1998),摩根·考夫曼出版社:摩根·考夫曼出版社,美国科罗拉多州丹佛
[31] Q.Zhang,S.A.Goldman,Em-dd:一种改进的多实例学习技术,载于《神经信息处理系统进展论文集》(NIPS),2001年,第1073-1080页。;Q.Zhang,S.A.Goldman,Em-dd:一种改进的多实例学习技术,收录于:《神经信息处理系统进展学报》,2001年,第1073-1080页。
[32] A.Shrivastava,J.K.Pillai,V.M.Patel,R.Chellappa,基于词典的多示例学习,摘自:《国际图像处理会议论文集》,IEEE,法国巴黎,2014年,第160-164页。;A.Shrivastava,J.K.Pillai,V.M.Patel,R.Chellappa,基于词典的多示例学习,摘自:《国际图像处理会议论文集》,IEEE,法国巴黎,2014年,第160-164页。
[33] Ren,W。;黄,K。;陶,D。;Tan,T.,《利用多实例学习和包分裂进行弱监督大规模对象定位》,IEEE Trans。模式分析。机器。智力。(帕米),38,2405-416(2016)
[34] J.Huo,Y.Gao,W.Yang,H.Yin,通过多实例字典学习进行异常事件检测,in:智能数据工程和自动学习(IDEAL),Springer,Natal,巴西,2012,第76-83页。;J.Huo,Y.Gao,W.Yang,H.Yin,通过多实例字典学习进行异常事件检测,in:智能数据工程和自动学习(IDEAL),Springer,Natal,Brazil,2012年,第76-83页。
[35] X.Wang,B.Wang,X.Bai,W.Liu,Z.Tu,Max-margin多实例词典学习,摘自:《国际机器学习会议论文集》,2013年,第846-854页。;X.Wang,B.Wang,X.Bai,W.Liu,Z.Tu,Max-margin多实例词典学习,摘自:《国际机器学习会议论文集》,2013年,第846-854页。
[36] 王,X。;陶,D。;Li,Z.,用于最小二乘回归的熵控制拉普拉斯正则化,信号处理。,90, 6, 2043-2049 (2010) ·Zbl 1197.94139号
[37] P.Xie,《学习紧凑有效的距离度量与多样性正则化》,载于:《数据库中的机器学习和知识发现》,斯普林格,葡萄牙波尔图,2015年,第610-624页。;P.Xie,《学习紧凑且有效的距离度量与多样性正则化》,载于:《数据库中的机器学习和知识发现》,葡萄牙波尔图斯普林格,2015年,第610-624页。
[38] 乔,M。;卞,W。;徐,D。;Yi,R。;Tao,D.,序列标记的多样化隐马尔可夫模型,IEEE Trans。知识。数据工程(TKDE),27,11,2947-2960(2015)
[39] Ng、W.W。;胡,J。;Yeung,D.S。;尹,S。;Roli,F.,《不平衡分类问题的基于灵敏度的多样化欠采样》,IEEE Trans。赛博。,45, 11, 2402-2412 (2015)
[40] 邹J.Y.,R.P.Adams,生成性潜在变量模型多样性的先验,摘自:《神经信息处理系统进展学报》,2012年,第2996-2004页。;J.Y.Zou,R.P.Adams,生成性潜在变量模型多样性的先验,摘自:《神经信息处理系统进展学报》,2012年,第2996-2004页。
[41] Shevade,S.K。;Keerthi,S.S.,《使用稀疏逻辑回归进行基因选择的简单高效算法》,生物信息学,19,17,2246-2253(2003)
[42] M.Schmidt,G.Fung,R.Rosales,优化方法\(ℓ_1\); M.Schmidt,G.Fung,R.Rosales,优化方法\(ℓ_1\)
[43] Perkins,S。;拉克,K。;Theiler,J.,Graftingfast,通过函数空间中的梯度下降进行增量特征选择,J.Mach。学习。《决议》(JMLR),31333-1356(2003)·Zbl 1102.68578号
[44] A.Y.Yang、S.S.Sastry、A.Ganesh、Y.Ma、Fast\(ℓ_1\); A.Y.Yang、S.S.Sastry、A.Ganesh、Y.Ma、Fast\(ℓ_1\)
[45] C.Carson,M.Thomas,S.Belongie,J.M.Hellerstein,J.Malik,《Blobworld:基于区域的图像索引和检索系统》,摘自:《视觉信息和信息系统》,荷兰阿姆斯特丹斯普林格出版社,1999年,第509-517页。;C.Carson,M.Thomas,S.Belongie,J.M.Hellerstein,J.Malik,《Blobworld:基于区域的图像索引和检索系统》,摘自:《视觉信息和信息系统》,荷兰阿姆斯特丹斯普林格出版社,1999年,第509-517页。
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。