×

基于非凸Schatten-(p)范数正则化的非线性子空间聚类。 (英语) Zbl 1524.62290号

摘要:子空间聚类旨在寻求最适合于从高维空间获取的数据点的多子空间表示。稀疏表示和基于低阶近似的方法已经成为子空间聚类的主要方法之一。在现有的方法中,核范数用于近似秩最小化。然而,核范数仍然存在普遍的缺陷,它总是过度惩罚大的奇异值,并导致有偏差的解。本文提出了一种非线性子空间聚类模型,该模型利用了高维特征空间中数据的稀疏性和低秩性,使用Schatten-(p\)范数代理((p\ In(0,1))和学习的低秩核。通过这种方式,该模型保证了在高维特征空间中映射的数据具有低秩和自表达性。我们给出了再生核Hilbert空间中相应问题的交替方向乘法器方法(简称ADMM)。对运动分割和图像聚类的各种实验表明,该模型有潜力超越当前文献中大多数最先进的模型。

MSC公司:

62H30型 分类和区分;聚类分析(统计方面)
68T05型 人工智能中的学习和自适应系统
90C25型 凸面编程
90 C90 数学规划的应用
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] Basri,R.和Jacobs,D.W.,兰伯特反射率和线性子空间,IEEE Trans。模式分析。机器。《情报》25(2)(2003)218-233。
[2] Boyd,S.、Parikh,N.、Chu,E.、Peleato,B.和Eckstein,J.,《通过交替方向乘数法进行分布式优化和统计学习》,Found。趋势马赫数。学习。3(1)(2011)1-122·Zbl 1229.90122号
[3] Brbic,M.和Kopria,I.,多视图低秩稀疏子空间聚类,模式识别。3(2018)247-258。
[4] Brbic,M.和Kopriva,I.,(l_0)动机的低秩稀疏子空间聚类,IEEE Trans。Cybern.50(4)(2020)1711-1725。
[5] Costeira,J.P.和Kanade,T.,《独立运动物体的多体分解方法》,国际计算杂志。见29(3)(1998)159-179。
[6] Chen,G和Lerman,G,谱曲率聚类(SCC),国际计算杂志。见81(3)(2009)317-330。
[7] Elhamifar,E.和Vidal,R.,《稀疏子空间聚类:算法、理论和应用》,IEEE Trans。模式分析。机器。Intell.35(11)(2013)2765-2781。
[8] Fan,J.和Li,R.,《通过非冲突惩罚可能性进行变量选择及其预言属性》,《美国统计协会期刊》第96卷(2001年)第1348-1360页·Zbl 1073.62547号
[9] Favaro,P.、Vidal,R.和Ravichandran,A.,稳健子空间估计和聚类的封闭式解决方案,载于CVPR(科罗拉多州斯普林斯,科罗拉多州,美国,2011),第1801-1807页。
[10] R.Garg、A.Eriksson和I.Reid,用于求解反问题的非线性维数正则化器,预印本(2016),arXiv:1603.05015。
[11] Goh,A.和Vidal,R.,《通过无监督流形聚类分割不同类型的运动》,载于IEEE Conf.Computer Vision and Pattern Recognition,明尼阿波利斯,明尼苏达州,美国,2007年。
[12] Gu,S.,Zhang,L.,Zuo,W.和Feng,X.,加权核范数最小化及其在图像表示中的应用,国际计算机杂志。见121(2017)183-208·Zbl 1458.68231号
[13] P.Ji、J.Reid、R.Garg、H.Li和M.Salzmann,低库核子空间聚类,预印本(2017),arXiv:1707/04974。
[14] Krishnan,D.和Fergus,R.,《使用超最小二乘先验的快速图像反褶积》,NIPS 09 Proc。第22届神经信息处理系统国际会议,加拿大不列颠哥伦比亚省温哥华,2009年,第1033-1041页。
[15] Lee,K.C.,Ho,J.和Kriegman,D.J.,获取可变光照下人脸识别的线性子空间,IEEE Trans。模式分析。机器。《情报》27(5)(2005)684-698。
[16] Li,M.,Zhang,Y.,Xiao,M.、Xu,C.和Zhang、W.,《关于显著目标检测的Schatten-q拟形式诱导矩阵分解模型》,《模式识别》96(2019)1-12。
[17] Liu,G.,Lin,Z.,Yan,S.,Sun,J.,Yu,Y.和Ma,Y.,通过低秩表示的子空间结构的鲁棒恢复,IEEE Trans。模式分析。机器。Intell.35(1)(2013)171-184。
[18] Liu,G.,Lin,Z.和Yu,Y.,《基于低秩表示的鲁棒子空间分割》,载《国际计算机学习》,以色列海法,2010年,第663-670页。
[19] Lu,C.,Tang,J.,Yan,S.和Lin,Z.,广义非凸非光滑低阶极小化,IEEE Conf.计算机视觉和模式识别,俄亥俄州哥伦布,2014年,第4130-4137页。
[20] Lu,C.,Yan,S.和Lin,Z.,凸稀疏谱聚类:单视图到多视图,IEEE Trans。图像处理。25(6)(2016)2833-2843·Zbl 1408.94438号
[21] Malek-Mohammadi,M.,Babaie-Zadeh,M.和Skoglund,M..,《恢复低秩矩阵时Schatten-p拟形式最小化的性能保证》,《信号处理》114(2015)225-230。
[22] Mallat,S.,《多分辨率信号分解理论:小波表示》,IEEE Trans。模式分析。机器。Intell.11(1989)674-693·Zbl 0709.94650号
[23] Ng,A.Y.,Jordan,M.I.和Weiss,Y.et al.,《关于谱聚类:分析和算法》,摘自《神经信息处理系统》,2001年,第849-856页。
[24] Nguyen,H.V.、Patel,V.M.、Nasrabadi,N.M.和Chellappa,R.,对象识别非线性内核词典的设计,IEEE Trans。图像处理。22(12)(2013)5123-5135·Zbl 1373.68328号
[25] Nguyen,H.、Yang,W.、Shen,F.和Sun,C.,人脸识别的核低阶表示,神经计算155(2015)32-42。
[26] Nie,F.、Wang,H.、Cai,X.、Huang,H.和Ding,C.,通过联合Schatten p-范数和(l_p)-范数最小化实现稳健矩阵补全,IEEE国际数据挖掘会议,比利时布鲁塞尔,2012年,第566-574页。
[27] Patel,V.M.和Vidal,R.,《内核稀疏子空间聚类》,摘自IEEE国际会议图像处理,法国巴黎国防大学,2014年。
[28] Shang,F.,Cheng,J.,Liu,Y.,Luo,Z.和Lin,Z.,鲁棒PCA的双线性线性因子矩阵范数最小化:算法和应用,IEEE Trans。模式分析。机器。Intell.50(2018)2066-2080。
[29] F.Shang,Y.Liu和J.Cheng,可处理schatten拟形式最小化的可伸缩算法,计算研究库,arXiv:1606.012452016年。
[30] Shawe-Taylor,J.和Cristianini,N.,《模式分析的核心方法》(剑桥大学出版社,2004年)·Zbl 0994.68074号
[31] Tang,K.,Liu,R.,Su,Z.和Zhang,J.,结构约束低阶表示,IEEE Trans。神经网络。学习。系统25(12)(2014)2167-2179。
[32] Vidal,R.和Favaro,P.,低秩子空间聚类(LRSC),模式识别。Lett.43(2014)47-61。
[33] Vidal,R.、Ma,Y.和Sastry,S.,《广义主成分分析》(Springer,纽约,2016)·Zbl 1349.62006号
[34] Wang,Y.X.,Xu,H.和Leng,C.,《可证明子空间聚类:当LRR满足SSC时》,载于《神经信息处理系统进展》,第26卷(IEEE,2013),第64-72页·Zbl 1432.62193号
[35] Wang,W.,Yang,C.,Chen,H.和Feng,X.,统一判别和相干半监督子空间聚类,IEEE Trans。图像处理。27(5)(2018)2461-2470·兹比尔1409.94626
[36] Xiao,S.,Tan,M.,Xu,D.和Dong,Z.Y.,鲁棒核低阶表示,IEEE Trans。神经网络。学习。系统27(11)(2016)2268-2281。
[37] Xu,C.,Lin,Z.和Zha,H.,schatten-p范数的统一凸代理,载于《第三十届AAAI人工智能大会》,加利福尼亚州旧金山,2017年,第926-932页。
[38] Xu,Z.、Zhang,H.、Wang,Y.、Chang,X.和Liang,Y.,L\(压裂{1}{2}\)正则化,科学中国信息科学53(6)(2010)1159-1169·Zbl 1497.62192号
[39] Yan,I.和Pollefeys,M.,运动分割的一般框架:独立、铰接、刚性、非刚性、退化和非退化,摘自《欧洲计算机视觉会议》(Springer,Berlin,2006),第94-106页。
[40] Yin,M.,Guo,Y.,Gao,J.,He,Z.和Xie,S.,对称正定流形上的鲁棒稀疏子空间聚类,载于CVPR,拉斯维加斯,内华达州,美国,2016年,第5157-5164页。
[41] Zha,Z.,Zhang,X.,Wu,Y.,Wang,Q.,Liu,X.,Tang,L.和Yuan,X.,用于图像恢复的基于非凸加权\(L_p\)核范数的ADMM框架,神经计算311(2018)209-224。
[42] Zhang,M.,Huang,Z.-H.和Zhang、Y.,非凸矩阵恢复的限制p等距性质,IEEE Trans。Inf.Theory59(7)(2013)4316-4323·Zbl 1364.94179号
[43] Zhang,X.,Sun,H.,Liu,Z.,Ren,Z.和Cui,Q.,基于Schatten-p范数和相关熵的鲁棒低阶核多视子空间聚类,Inf.Sci.477(2019)430-447·兹比尔1450.62077
[44] Zhang,X.,Xu,C.,Sun,X.和Baciu,G.,Schatten-q正则化子空间约束低秩聚类模型,神经计算82(2016)36-47。
[45] Zhang,H.,Yang,J.,Shang,F.,Gong,C.和Zhang的LRR,通过可处理Schatten-p范数最小化和因式分解进行子空间分割,IEEE Trans。Cybern.49(5)(2019)1722-1734。
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。