×

用于高维数据分类的图的全局二进制优化。 (英语) Zbl 1333.90111号

摘要:这项工作开发了一个全局最小化框架,用于将高维数据分割为两类。它将最新的成像凸优化方法与最新的基于图的变分模型相结合,用于数据分割。提出了两种凸分裂算法,其中基于图形的PDE技术用于解决一些子问题。结果表明,对于具有两个区域的半监督分割,可以保证全局极小值。如果纳入了对区域体积的限制,则无法保证全局最小化,但通常可以在实践中获得,否则可以近似。在基准数据集上的实验表明,我们的模型产生的分割结果与最先进的算法相当或优于这些算法。特别是,我们与最近的MBO进行了彻底的比较[B.Merriman,J.K.BenceS.Osher公司,“平均曲率扩散生成运动”,AMS数学系列精选讲座:计算晶体生长研讨会8966,73–83(1992)]和相场方法,并展示了本文提出的算法的优势。

MSC公司:

90C27型 组合优化
90C25型 凸面编程
PDF格式BibTeX公司 XML格式引用
全文: 内政部 链接

参考文献:

[1] Anderson,C.:一种Rayleigh-Chebyshev方法,用于寻找大型稀疏厄米矩阵的最小特征值和相关特征向量。J.计算。物理。229, 7477-7487 (2010) ·Zbl 1197.65034号 ·doi:10.1016/j.jcp.2010.06.030
[2] Bache,K.,Lichman,M.:UCI机器学习库(2013)。http://archive.ics.uci.edu/ml ·Zbl 1206.90245号
[3] Belkin,M.,Niyogi,P.,Sindhwani,V.:流形正则化:从标记和未标记示例学习的几何框架。J.马赫。学习。第7号决议,2399-2434(2006年)·Zbl 1222.68144号
[4] Bertozzi,A.,Flenner,A.:用于高维数据分类的图上的漫反射界面模型。多尺度模型。模拟。10(3), 1090-1118 (2012) ·兹比尔1259.68215 ·doi:10.1137/11083109X
[5] Boykov,Y.,Kolmogorov,V.:视觉能量最小化最小/最大流量算法的实验比较。IEEE传输。模式分析。机器。智力。26, 359-374 (2001) ·Zbl 1005.68964号
[6] Boykov,Y.,Veksler,O.,Zabih,R.:通过图切割实现快速近似能量最小化。IEEE传输。模式分析。机器。智力。23(11), 1222-1239 (2001) ·数字对象标识代码:10.1109/34.969114
[7] Bresson,X.,Chan,T.F.:非局部无监督变分图像分割模型。加州大学洛杉矶分校技术代表,摄像机报告08-67(2008)·Zbl 1259.68215号
[8] Bresson,X.,Esedoglu,S.,Vandergheynst,P.,Thiran,J.,Osher,S.:活动轮廓/蛇模型的快速全局最小化。数学成像视觉杂志。28(2), 151-167 (2007) ·Zbl 1523.94005号 ·doi:10.1007/s10851-007-0002-0
[9] 布列松,X。;Laurent,T。;乌明斯基,D。;von Brecht,J.,《多类总变异聚类》,1421-1429(2013),纽约
[10] Bresson,X.,Laurent,T.,Uminsky,D.,von Brecht,J.H.:契格切割聚类的收敛和能量景观。高级神经信息处理。系统。25, 1394-1402 (2012)
[11] Bresson,X.,Laurent,T.,Uminsky,D.,von Brecht,J.H.:计算图的平衡割的自适应全变分算法。arXiv预印arXiv:1302.2717(2013)
[12] Bresson,X.,Tai,X.C.,Chan,T.F.,Szlam,A.:基于cheeger cut和mumford-shah-potts模型的多类转化学习。数学杂志。成像视觉。49(1), 191-201 (2014) ·Zbl 1366.68230号
[13] Buades,A.,Coll,B.,Morel,J.M.:图像去噪算法综述,新算法。多尺度模型。模拟。4(2), 490-530 (2005) ·Zbl 1108.94004号 ·数字对象标识代码:10.1137/040616024
[14] Chambolle,A.:总变异最小化算法及其应用。数学杂志。成像视觉。20(1), 89-97 (2004) ·Zbl 1366.94048号
[15] Chan,T.,Vese,L.:无边缘的活动轮廓。IEEE图像处理。10, 266-277 (2001) ·Zbl 1039.68779号 ·数字对象标识代码:10.1109/83.902291
[16] Chan,T.F.,Esedo\[\bar{{\rm g}}\]glu,S.,Nikolova,M.:图像分割和去噪模型的全局极小值搜索算法。SIAM J.应用。数学。66(5), 1632-1648 (2006) ·Zbl 1117.94002号
[17] Chapelle,O.,Schölkopf,B.,Zien,A.:半监督学习,第2卷。麻省理工学院出版社,剑桥(2006)·doi:10.7551/mitpress/9780262033589.001.0001
[18] Cheeger,J.:拉普拉斯算子最小特征值的下界。普林斯顿大学出版社,普林斯顿(1970)·Zbl 0212.44903号
[19] Chung,F.:谱图理论,第92卷。美国数学学会,普罗维登斯(1997)·Zbl 0867.05046号
[20] Cirešan,D.,Meier,U.,Masci,J.,Gambardella,L.,Schmidhuber,J.:用于图像分类的灵活、高性能卷积神经网络。摘自:第二十二届国际人工智能联合会议记录,第1237-1242页(2011)
[21] Couprie,C.、Grady,L.、Najman,L.和Talbot,H.:功率分水岭:统一的基于图形的优化框架。IEEE Trans。模式分析。机器。智力。33(7), 1384-1399 (2011) ·doi:10.1109/TPAMI.2010.200
[22] Couprie,C.、Grady,L.、Talbot,H.、Najman,L.:组合连续最大流量。SIAM J.成像科学。4(3), 905-930 (2011) ·Zbl 1231.90366号 ·doi:10.1137/100799186
[23] Decoste,D.,Schölkopf,B.:训练不变支持向量机。机器。学习。46(1), 161-190 (2002) ·Zbl 0998.68102号 ·doi:10.1023/A:1012454411458
[24] Ekeland,I.,Téman,R.:凸分析和变分问题。费城工业和应用数学学会(1999年)·Zbl 0939.49002号 ·doi:10.1137/1.9781611971088
[25] Elmoataz,A.,Lezoray,O.,Bougleux,S.:加权图的非局部离散正则化:图像和流形处理的框架。IEEE传输。图像处理。17(7), 1047-1060 (2008) ·doi:10.1109/TIP.2008.924284
[26] Esser,J.E.:凸模型的原始对偶算法及其在图像恢复、注册和非局部修复中的应用(博士论文,加州大学洛杉矶分校CAM报告10-31)(2010)
[27] Ford,L.R.,Fulkerson,D.R.:网络中的流量。普林斯顿大学出版社,普林斯顿(1962)·Zbl 0106.34802号
[28] Gilboa,G.,Osher,S.:非局部算子在图像处理中的应用。多尺度模型。模拟。7(3), 1005-1028 (2008) ·Zbl 1181.35006号 ·doi:10.1137/070698592
[29] Goldberg,A.V.,Tarjan,R.E.:最大流问题的新方法。J.ACM 35(4),921-940(1988)·Zbl 0661.90031号 ·数字对象标识代码:10.1145/48014.61051
[30] Goldstein,T.、Bresson,X.、Osher,S.:分裂bregman方法的几何应用:分割和曲面重建。科学杂志。计算。45(1), 271-293 (2010) ·Zbl 1203.65044号
[31] Goldstein,T.,Osher,S.:l1-正则化问题的分裂bregman方法。SIAM J.成像科学。2(2), 323-343 (2009) ·Zbl 1177.65088号 ·doi:10.1137/080725891
[32] Grady,L.:使用先验模型的多标签随机步行者图像分割。摘自:2005年IEEE计算机视觉和模式识别会议记录,第763-770页(2005)
[33] Grady,L.:图像分割的随机行走。IEEE传输。模式分析。机器。智力。28(11),1768-1783(2006)·doi:10.1109/TPAMI.2006.233
[34] Grady,L.,Polimeni,J.R.:《离散微积分:计算科学图形的应用分析》。斯普林格,海德堡(2010)·兹比尔1195.68074 ·doi:10.1007/978-1-84996-290-2
[35] Grady,L.,Schiwietz,T.,Aharon,S.,Westermann,R.:交互式字母组合的随机行走。摘自:VIIP会议记录,第423-429页(2005年)
[36] Hein,M.,Audibert,J.,Von Luxburg,U.:从图到流形——图laplacians的弱和强逐点一致性。摘自:《第18届学习理论会议记录》(COLT,第470-485页)。柏林施普林格出版社(2005)·Zbl 1095.68097号
[37] Hein,M.,Bühler,T.:非线性特征问题的逆幂方法及其在1-谱聚类和稀疏PCA中的应用。高级神经信息处理。系统。23, 847-855 (2010)
[38] Hu,H.,Laurent,T.,Porter,M.A.,Bertozzi,A.L.:一种基于总变异的方法,用于使用MBO方案进行网络模块化优化。SIAM J.应用。数学。73(6), 2224-2246 (2013) ·Zbl 1284.62377号 ·数字对象标识代码:10.1137/130917387
[39] Kégl,B.,Busa-Fekete,R.:增强基本分类器的产品。摘自:第26届国际机器学习年会论文集,第497-504页(2009年)·Zbl 0998.68102号
[40] Klodt,M.,Cremers,D.:具有矩约束的图像分割凸框架。摘自:IEEE计算机视觉国际会议(ICCV),第2236-2243页(2011年)
[41] Kolmogorov,V.,Zabih,R.:哪些能量函数可以通过图形切割最小化。IEEE传输。模式分析。机器。智力。26, 65-81 (2004) ·Zbl 1039.68666号 ·doi:10.1109/TPAMI.2004.1262177
[42] LeCun,Y.、Bottou,L.、Bengio,Y.和Haffner,P.:基于梯度的学习应用于文档识别。程序。IEEE 86(11),2278-2324(1998)·数字对象标识代码:10.1109/5.726791
[43] LeCun,Y.,Cortes,C.:手写数字的MNIST数据库。http://yann.lecun.com/exdb/mnist/
[44] Levin,A.,Rav-Acha,A.,Lischinski,D.:光谱消光。IEEE传输。模式分析。机器。智力。30(10), 1699-1712 (2008) ·doi:10.1109/TPAMI.2008.168
[45] Lezoray,O.,Elmoataz,A.,Ta,V.T.:主动轮廓模型图的非局部偏微分方程及其在图像分割和数据聚类中的应用。收录:声学、语音和信号处理(ICASSP),2012年IEEE国际会议,第873-876页。IEEE(2012)
[46] Merkurjev,E.,Kostic,T.,Bertozzi,A.:用于分类和图像处理的图形MBO方案。SIAM J.成像科学。6(4), 1903-1930 (2013) ·Zbl 1279.68335号 ·数字对象标识代码:10.1137/120886935
[47] Merriman,B.,Bence,J.K.,Osher,S.:通过平均曲率产生的扩散运动。AMS数学系列精选讲座:计算晶体种植者研讨会8966,73-83(1992)
[48] Mohar,B.:图的拉普拉斯谱。图论梳。申请。2, 871-898 (1991) ·Zbl 0840.05059号
[49] Mollenhoff,T.,Nieuwenhuis,C.,Toppe,E.,Cremers,D.:具有体积约束的最小划分问题的高效凸优化。In:《计算机视觉和模式识别中的能量最小化方法》,第94-107页(2013)·Zbl 1303.90082号
[50] Perona,P.,Zelnik-Manor,L.:自校正光谱聚类。高级神经信息处理。系统。17, 1601-1608 (2004)
[51] Setzer,S.:图像处理中的算子分割、bregman方法和帧收缩。国际期刊计算。视觉。92(3), 265-280 (2011) ·Zbl 1235.68314号 ·doi:10.1007/s11263-010-0357-3
[52] Shi,J.,Malik,J.:标准化切割和图像分割。IEEE传输。模式分析。机器。智力。22(8), 888-905 (2000) ·数字对象标识代码:10.1109/34.868688
[53] Szlam,A.,Bresson,X.:总变化和切赫切割。J.Fürnkranz,T.Joachims(编辑)《第27届机器学习国际会议(ICML-10)论文集》,第1039-1046页。以色列海法Omnipress(2010年)。网址http://www.icml2010.org/papers/233.pdf ·Zbl 1222.68144号
[54] Szlam,A.,Bresson,X.:切格比率切割的基于总变量的图形聚类算法。摘自:第27届国际机器学习会议记录,第1039-1046页(2010)·Zbl 1005.68964号
[55] Szlam,A.D.,Maggioni,M.,Coifman,R.R.:具有函数自适应扩散过程的图的正则化。J.马赫。学习。1711-1739号决议(2008年)·Zbl 1225.68217号
[56] Tai,X.C.,Christiansen,O.,Lin,P.,Skjlaaen,I.:使用具有mbo类型投影的一些分段常量水平集方法进行图像分割。国际期刊计算。视觉。73(1), 61-76 (2007) ·Zbl 1477.68521号 ·doi:10.1007/s11263-006-9140-x
[57] van Gennip,Y.,Bertozzi,A.:图Ginzburg-Landau泛函的Gamma-收敛性。微分方程高级17(11-12),1115-1180(2012)·Zbl 1388.35200号
[58] van Gennip,Y.、Guillen,N.、Osting,B.、Bertozzi,A.L.:有限图的平均曲率、阈值动力学和相场理论。米兰J.数学。82(1), 3-65 (2014) ·Zbl 1325.35245号 ·doi:10.1007/s00032-014-0216-8
[59] Wang,J.,Jebara,T.,Chang,S.:通过交替最小化进行图形转换。载:《第25届国际机器学习大会论文集》,第1144-1151页(2008年)·兹比尔1284.62377
[60] Wu,C.,Tai,X.C.:rof、矢量tv和高阶模型的增广拉格朗日方法、对偶方法和分裂bregman迭代。SIAM J.成像科学。3(3), 300-339 (2010) ·Zbl 1206.90245号 ·doi:10.1137/090767558
[61] Yuan,J.,Bae,E.,Tai,X.C.:连续最大流和最小割法研究。2010年IEEE计算机视觉和模式识别会议,第2217-2224页(2010)
[62] Yuan,J.,Bae,E.,Tai,X.C.,Boykov,Y.:二进制标记问题的空间连续最大流和最小割框架。数字。数学。126(3), 559-587 (2013) ·Zbl 1290.49060号 ·doi:10.1007/s00211-013-0569-x
[63] Zhou,D.,Bousquet,O.,Lal,T.N.,Weston,J.,Schölkopf,B.:学习与本地和全球一致性。高级神经信息处理。系统。16, 321-328 (2004)
[64] Zhou,D.,Schölkopf,B.:从图形数据学习的正则化框架。收录:统计关系学习研讨会。机器学习国际会议(2004)
[65] 朱旭:半监督学习文献调查。计算机科学技术报告1530。威斯康星大学,麦迪逊分校(2005)
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。