×

低秩子空间聚类的非凸公式:算法和收敛性分析。 (英语) Zbl 1404.90126号

为了解决含有密集噪声和稀疏粗差数据的子空间聚类问题,提出了一种基于非凸建模的低秩子空间聚类方法。导出了谱函数的精细光滑性,并用于建立求解非凸问题的交替方向乘子法的收敛性。证明了迭代是一致有界的,所有极限点都证明了一阶最优性条件。数值实验证明了该方法的有效性。他们处理来自面部和数字聚类以及运动分割的真实数据。

MSC公司:

90立方 非线性规划

软件:

打开CV
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] Andersson,F.,Carlsson,M.,Perfekt,K.M.:奇异值泛函演算的Operator-Lipschitz估计。摘自:《美国数学学会学报》(2015)·Zbl 1337.47020号
[2] Attouch,H;螺栓,J;Svaiter,BF,半代数和驯服问题下降方法的收敛性:近似算法,前向-后向分裂,正则高斯-赛德尔方法,数学。程序。,137,91-129,(2013)·Zbl 1260.49048号 ·doi:10.1007/s10107-011-0484-9
[3] 巴斯里,R;雅各布斯,DW,朗伯反射率和线性子空间,IEEE Trans。模式分析。雨衣。英特尔。,25218-2233(2003年)·doi:10.1109/TPAMI.2003.1177153
[4] 贝克,A;Teboulle,M,线性反问题的快速迭代收缩阈值算法,SIAM J.成像科学。,2183-202年,(2009年)·Zbl 1175.94009号 ·doi:10.1137/080716542
[5] 博伊德,S;帕里赫,N;楚,E;Peleato,B型;Eckstein,J,《通过交替方向乘数法进行分布式优化和统计学习》。基础和趋势({\textregistered}),马赫。学习。,3, 1-122, (2011) ·Zbl 1229.90122号
[6] 布雷迪,K;Lorenz,DA;Reiterer,S,通过迭代阈值最小化非光滑非凸泛函,J.Optim。理论应用。,165, 78-112, (2015) ·Zbl 1321.49048号 ·doi:10.1007/s10957-014-0614-7
[7] 布鲁纳,J;Mallat,S,不变量散射卷积网络,IEEE Trans。模式分析。机器。整数。,35, 1872-1886, (2013) ·doi:10.1109/TPAMI.2012.230
[8] 坎迪斯,EJ;李,X;马,Y;Wright,J,稳健主成分分析?,J.ACM,58、11(2011)·Zbl 1327.62369号 ·数字对象标识代码:10.1145/1970392.1970395
[9] Chartrand,R.,Wohlberg,B.:针对稀疏群的群稀疏性的非凸ADMM算法。摘自:2013年IEEE声学、语音和信号处理国际会议,第6009-6013页。IEEE(2013)
[10] 陈,C;他,B;Ye,Y;Yuan,X,多块凸极小化问题admm的直接推广不一定收敛,数学。程序。,155, 57-79, (2016) ·Zbl 1332.90193号 ·doi:10.1007/s10107-014-0826-5
[11] Conn,A.R.,Gould,N.I.M.,Toint,P.L.:信托区域方法。工业和应用数学学会(SIAM),宾夕法尼亚州费城(2000)·Zbl 0958.65071号
[12] Eckstein,J.,Yao,W.:理解乘数交替方向方法的收敛性:理论和计算观点。罗格斯大学运营研究技术报告中心,新泽西州皮斯卡塔韦市巴托洛缪路640号(2015年)·Zbl 1330.90074号
[13] Elhamifar,E.,Vidal,R.:通过稀疏表示聚类不相交子空间。摘自:IEEE声学语音和信号处理国际会议(ICASSP),第1926-1929页。IEEE(2010)
[14] Elhamifar,E.,Vidal,R.:稀疏子空间聚类。在:IEEE计算机视觉和模式识别会议,第2790-2797页。IEEE(2009)·Zbl 1360.62353号
[15] 埃尔哈米法尔,E;Vidal,R,《稀疏子空间聚类:算法、理论和应用》,IEEE Trans。模式分析。机器。整数。,35, 2765-2781, (2013) ·doi:10.1010/TPAMI.2013.57
[16] Fortin,M;格洛文西,R;Fortin,M(编辑);Glowinksi,R(ed.),《使用增广拉格朗日函数的分解-协调方法》,97-144,(1983),阿姆斯特丹·doi:10.1016/S0168-2024(08)70028-6
[17] 加贝,D;Fortin,M(编辑);Glowinksi,R(ed.),乘子方法在变分不等式中的应用,299-331,(1983),阿姆斯特丹·doi:10.1016/S0168-2024(08)70034-1
[18] 加贝,D;Mercier,B,通过有限元近似解非线性变分问题的对偶算法,计算。数学。申请。,2, 17-40, (1976) ·Zbl 0352.65034号 ·doi:10.1016/0898-1221(76)90003-1
[19] Glowinski,R.,Marroco,A.:《超近似,部分定义为“秩序”,以及解决方案,部分性质是非利奈狄利克雷特问题的唯一类别。》(Sur l’approximation,paréments finish d'ordre un,et la Résolution,par alisation qualityéd'une class de probl mes de dirichlet nonéaires)。ESAIM:数学建模与数值分析-数学建模与分析数字9(R2),41-76(1975)。http://eudml.org/doc/193269 ·Zbl 0368.65053号
[20] Ho,J.,Yang,M.H.,Lim,J,Lee,K.C.,Kriegman,D.:不同照明条件下物体的簇状外观。摘自:IEEE计算机视觉和模式识别会议,第1卷,第11-18页。IEEE(2003)
[21] 洪,W;赖特,J;黄,K;Ma,Y,有损图像表示的多尺度混合线性模型,IEEE Trans。图像处理。,15, 3655-3671, (2006) ·doi:10.1109/TIP.2006.882016
[22] 洪,M;罗,ZQ;Razaviyayn,M,一类非凸问题交替方向乘子法的收敛性分析,SIAM J.Optim。,26, 337-364, (2016) ·Zbl 1356.49061号 ·doi:10.137/140990309
[23] Jiang,H.:基于增广拉格朗日算法的非凸优化及其在子空间聚类中的应用。约翰霍普金斯大学博士论文(2016)。https://jscholarship.library.jhu.edu/handle/1774.2/838
[24] LeCun,Y;Bottou,左;本吉奥,Y;Haffner,P,梯度学习在文档识别中的应用,Proc。IEEE,86,2278-2324,(1998)·数字对象标识代码:10.1109/5.726791
[25] Lee,KC;何,J;Kriegman,DJ,获取可变照明下人脸识别的线性子空间,IEEE Trans。模式分析。机器。整数。,27, 684-698, (2005) ·doi:10.1109/TPAMI.2005.92
[26] 路易斯,AS;Sendov,HS,奇异值的非光滑分析。第一部分:理论,集值分析。,13, 213-241, (2005) ·Zbl 1129.49025号 ·doi:10.1007/s11228-004-7197-7
[27] 狮子队,PL;Mercier,B,两个非线性算子之和的分裂算法,SIAM J.Numer。分析。,16, 964-979, (1979) ·Zbl 0426.6500号 ·doi:10.1137/0716071
[28] Liu,R.,Lin,Z.,De la Torre,F.,Su,Z.:无监督视觉学习的固定库表示法。摘自:IEEE计算机视觉和模式识别会议,第598-605页。IEEE(2012)·Zbl 1129.49025号
[29] Liu,G.,Lin,Z.,Yu,Y.:基于低秩表示的稳健子空间分割。摘自:机器学习国际会议,第663-670页(2010年)
[30] Liu,G.,Yan,S.:用于子空间分割和特征提取的潜在低阶表示。2011年IEEE计算机视觉国际会议,第1615-1622页。IEEE(2011)
[31] 刘,G;林,Z;严,S;孙,J;Yu,Y;Ma,Y,通过低秩表示实现子空间结构的稳健恢复,IEEE Trans。模式分析。机器。整数。,35, 171-184, (2013) ·doi:10.1109/TPAMI.2012.88
[32] Lu,C.,Lin,Z.,Yan,S.:用跟踪套索进行相关自适应子空间分割。摘自:IEEE计算机视觉国际会议,第1345-1352页(2013)·Zbl 1356.49061号
[33] Lu,C.Y.,Min,H.,Zhao,Z.Q.,Zhu,L.,Huang,D.S.,Yan,S.:通过最小二乘回归实现稳健高效的子空间分割。摘自:欧洲计算机视觉会议,第347-360页(2012年)
[34] 开源计算机视觉库(OpenCV)。http://sourceforge.net/projects/opencvlibrary ·Zbl 0352.65034号
[35] Patel,V.M.,Nguyen,H.V.,Vidal,R.:潜在空间稀疏子空间聚类。摘自:计算机视觉国际会议(2013)
[36] 帕特尔,VM;阮,H;Vidal,R,潜在空间稀疏和低秩子空间聚类,IEEE J.Sel。顶部。信号处理。,691-701年9月(2015年)·doi:10.1109/JSTSP.2015.2402643
[37] Soltanolkotabi,M.,Candes,E.J.:带离群值的子空间聚类的几何分析。《统计年鉴》,第2195-2238页(2012年)·Zbl 1318.62217号
[38] Soltanolkotabi,M;Elhamifar,E;Candes,E,《稳健子空间聚类》,《Ann.Stat.》,42,669-699,(2014)·Zbl 1360.62353号 ·doi:10.1214/13-AOS1199
[39] Toh,KC;Yun,S,核范数正则化线性最小二乘问题的加速近似梯度算法,Pac。J.Optim。,6, 15, (2010) ·Zbl 1205.90218号
[40] Tron,R.、Vidal,R.:三维运动分割算法比较的基准。In:IEEE计算机视觉和模式识别会议(2007)·Zbl 1327.62369号
[41] Vidal,R.,Ma,Y.,Sastry,S.:广义主成分分析。斯普林格跨学科应用数学(2016)·Zbl 1349.62006号
[42] Vidal,R,子空间聚类,IEEE信号处理。Mag.,28,52-68,(2010)·doi:10.1109/MSP.2010.939739
[43] 维达尔,R;Favaro,P,低秩子空间聚类(LRSC),模式识别。莱特。,43, 47-61, (2014) ·doi:10.1016/j.patrec.2013.08.006
[44] 维达尔,R;特隆,R;Hartley,R,《使用功率因数分解和GPCA对缺失数据进行多帧运动分割》,《国际计算杂志》。视觉。,79, 85-105, (2008) ·doi:10.1007/s11263-007-0099-z
[45] 美国卢克斯堡,光谱聚类教程,统计计算。,17, 395-416, (2007) ·doi:10.1007/s11222-007-9033-z
[46] Wang,F.,Cao,W.,Xu,Z.:非凸复合问题的多块Bregman ADMM的收敛性(2015)。arXiv预打印arXiv:1505.03063
[47] Wang,Y.X.,Xu,H.,Leng,C.:可证明子空间聚类:当LRR遇到SSC时。In:神经信息处理系统(2013)
[48] Wang,Y.,Yin,W.,Zeng,J.:非凸非光滑优化中ADMM的全局收敛性(2015)。arXiv预打印arXiv:1511.06324
[49] 尹,M;高,J;林,Z,拉普拉斯正则化低阶表示及其应用,IEEE Trans。模式分析。机器。整数。,38, 504-517, (2016) ·doi:10.1109/TPAMI.2015.2462360
[50] You,C.,Li,C.G.,Robinson,D.,Vidal,R.:用于可伸缩弹性网子空间聚类的基于Oracle的主动集算法。摘自:IEEE计算机视觉和模式识别会议,第3928-3937页(2016)·Zbl 1229.90122号
[51] You,C.,Robinson,D.,Vidal,R.:通过正交匹配追踪的可伸缩稀疏子空间聚类。摘自:IEEE计算机视觉和模式识别会议,第3918-3927页(2016)·Zbl 1175.94009号
[52] You,C.,Vidal,R.:子空间解析恢复的几何条件。摘自:第32届国际机器学习会议记录(ICML-15),第1585-1593页(2015)
[53] 张,H;林,Z;张,C;高,J,一些低秩子空间恢复模型之间的关系,神经计算。,27, 1915-1950, (2015) ·Zbl 1418.62250号 ·doi:10.1162/NECO_a_00762
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。