×

用于降维的低秩和稀疏嵌入。 (英语) Zbl 1434.68413号

摘要:本文提出了一种用于降维的鲁棒子空间学习(SL)框架,该框架从整体优化、鲁棒性和泛化三个方面将现有的SL方法进一步扩展到低秩稀疏嵌入(LRSE)框架。由于使用了低秩和稀疏约束,数据的全局子空间和局部几何结构都被重构系数矩阵捕获,同时强制数据的低维嵌入以尊重低秩性和稀疏性。这样,重构系数矩阵学习和SL联合进行,可以保证整体最优。此外,我们采用稀疏矩阵对噪声进行建模,使LRSE对不同类型的噪声具有鲁棒性。与相关方法相比,全局子空间和局部几何结构的组合为LRSE带来了更好的泛化能力,即LRSE在无监督和有监督的情况下比传统SL方法表现更好,特别是在无监督情况下,分类精度的提高是相当大的。从该框架中可以导出七种特定的SL方法,包括无监督和有监督方法,并且在不同数据集(包括损坏的数据)上的实验证明了这些方法相对于现有的成熟SL方法的优越性。此外,我们利用实验为SL提供了一些新的见解。

理学硕士:

68T05年 人工智能中的学习和自适应系统
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] 贝尔金,M。;Niyogi,P.,《用于嵌入和聚类的拉普拉斯特征映射和光谱技术》(Proc.Adv.Neural Inf.Process,Syst.,Vol.14(2001),麻省理工学院出版社:麻省理学院出版社,马萨诸塞州剑桥),585-591
[2] Bertsekas,D.,《非二次惩罚函数:凸规划》,(约束优化和拉格朗日乘子方法(1996),雅典娜科学:雅典娜科技贝尔蒙特,马萨诸塞州,美国),326-340,ch.5,第5.3节
[3] Cai,D.,He,X.F.,&Han,J.W.(2007)。半监督判别分析。程序。国际会议计算机视觉; Cai,D.,He,X.F.,&Han,J.W.(2007)。半监督判别分析。程序。国际会议计算机视觉
[4] Cai,D.、He,X.F.、Zhou,K.、Han,J.W.和Bo,H.J.(2007)。对位置敏感的判别分析。程序。IEEE配置计算。视觉。模式记录。; Cai,D.、He,X.F.、Zhou,K.、Han,J.W.和Bo,H.J.(2007)。对位置敏感的判别分析。程序。IEEE配置计算。视觉。模式记录。
[5] 坎迪斯,E。;李晓东。;Wright,J.,稳健主成分分析?,ACM杂志,58,3,1-37(2011)·Zbl 1327.62369号
[6] Chen,H.T.、Chang,H.W.和Liu,T.L.(2005)。局部判别嵌入及其变体。程序。Int.Conf.计算。视觉。模式识别; Chen,H.T.,Chang,H.W.,&Liu,T.L.(2005)。局部判别嵌入及其变体。程序。Int.Conf.计算。视觉。模式识别
[7] 克莱门森,L。;哈斯蒂,T。;维滕,D。;Ersboll,B.,稀疏判别分析,技术计量学,53,4,406-413(2011)
[8] 埃克斯坦,J。;Bertsekas,D.,关于最大单调算子的douglas-rachford分裂方法和近点算法,数学规划,55293-318(1992)·兹比尔0765.90073
[9] 风扇,Z.Z。;Xu,Y。;Zhang,D.,使用样本邻域的局部线性判别分析框架,IEEE神经网络汇刊,22,7,1119-1132(2011)
[10] 风扇,Z.Z。;Xu,Y。;左,W.M。;杨,J。;Tang,J.H。;Lai,Z.H.,修改的主成分分析:多相似子空间模型的集成,IEEE神经网络和学习系统事务,25,8,1538-1552(2014)
[11] Fukunnaga,K.,《统计模式识别导论》,第二版(1991年),学术出版社
[12] Han,Y.H。;Yang,Y。;Ma,Z.G。;塞贝,N。;周晓芳,基于样条回归的视频语义识别半监督特征选择,IEEE神经网络与学习系统汇刊,26,2,252-264(2014)
[13] He,X.,Cai,D.,Yan,S.,&Zhang,H.(2005)。邻域保护嵌入。程序。国际会议计算机视觉; He,X.,Cai,D.,Yan,S.,&Zhang,H.(2005)。邻域保护嵌入。程序。国际会议计算机视觉
[14] 何,X。;严,S。;胡,Y。;Niyogi,P。;Zhang,H.,使用拉普拉斯人脸的人脸识别,IEEE模式分析和机器智能汇刊,27,3,328-340(2005)
[15] 黄,Y。;徐,D。;Nie,F.P.,使用迹比准则的半监督降维,IEEE神经网络和学习系统汇刊,23,3,519-526(2012)
[16] Jiang,B.,Ding,C.,Luo,B.,Tang,J.,&Xie,Y.(2013)。图形主成分分析:闭式解和鲁棒性。程序。IEEE国际协调计算。视觉。模式识别; Jiang,B.,Ding,C.,Luo,B.,Tang,J.,&Xie,Y.(2013)。图形主成分分析:闭式解和鲁棒性。程序。IEEE国际协调计算。视觉。模式识别
[17] 姜振林。;林,Z。;Davis,L.S.,标签一致性K-SVD:学习识别的判别词典,IEEE模式分析和机器智能学报,35,11,2651-2664(2013)
[18] 姜建杰。;马,J。;陈,C。;蒋,X。;Wang,Z.,通过平滑稀疏表示实现抗噪人脸图像超分辨率,IEEE控制论汇刊(2016)
[19] Karol,G.和LeCun,Y.(2010年)。学习稀疏编码的快速近似。程序。国际会议机器学习; Karol,G.和LeCun,Y.(2010年)。学习稀疏编码的快速近似。程序。国际会议机器学习
[20] 赖,Z。;Wong,W.K。;Xu,Y。;赵,C。;Sun,M.,稳健张量学习的稀疏对齐,IEEE神经网络和学习系统汇刊,25,101779-1792(2014)
[21] Lee,H.、Battle,A.、Raina,R.和Ng,A.Y.(2006年)。高效的稀疏编码算法。程序。高级神经信息处理。系统。; Lee,H.、Battle,A.、Raina,R.和Ng,A.Y.(2006年)。高效的稀疏编码算法。程序。高级神经信息处理。系统。
[22] 李,沈;Li,L.Y。;Fu,Y.,Low-rank and sparse dictionary learning,61-85(2014),瑞士:斯普林格国际出版公司·Zbl 1323.68435号
[23] Lin,Z.,Liu,R.,&Su,Z..(2011年)。低秩表示的具有自适应惩罚的线性交替方向方法。程序。高级神经信息处理。系统。; Lin,Z.、Liu,R.和Su,Z.(2011)。低阶表示的自适应惩罚线性化交替方向方法。程序。高级神经信息处理。系统。
[24] 刘,G。;林,Z。;闫S.C。;Sun,J。;Yu,Y。;Ma,Y.,通过低秩表示实现子空间结构的稳健恢复,IEEE模式分析和机器智能汇刊,35,1,171-184(2013)
[25] 刘海峰。;吴振华。;蔡,D。;Huang,T.S.,用于图像表示的约束非负矩阵分解,IEEE模式分析和机器智能汇刊,34,7,1299-1311(2011)
[26] Liu,G.,&Yan,S.(2011年)。用于子空间分割和特征提取的潜在低秩表示。程序。国际会议计算机视觉; Liu,G.,&Yan,S.(2011年)。用于子空间分割和特征提取的潜在低秩表示。程序。国际会议计算机视觉
[27] 马丁内斯,A.M。;Kak,A.C.,PCA与LDA,IEEE模式分析与机器智能汇刊,23,2,228-233(2001)
[28] Nguyen,H.V.、Patel,V.M.、Nasrabadi,N.M.和Challappa,R.(2012)。稀疏嵌入:一个用于稀疏性促进维度缩减的框架。程序。第11届欧洲财务会议计算。视觉。; Nguyen,H.V.、Patel,V.M.、Nasrabadi,N.M.和Challappa,R.(2012)。稀疏嵌入:一个用于稀疏性促进维度缩减的框架。程序。第11届欧洲会议计算。视觉。
[29] Nguyen,H。;Yang,W.K。;Sheng,B.Y。;Sun,C.Y.,用于人脸识别的歧视性低阶词典学习,神经计算,173,541-551(2016)
[30] Nie,F.P.、Huang,H.、Ding,C.、Luo,D.J.和Wang,H.(2011)。非贪婪L1-Norm最大化主成分分析。程序。国家Conf.Artif。智力。; Nie,F.P.、Huang,H.、Ding,C.、Luo,D.J.和Wang,H.(2011)。非贪婪L1-Norm最大化主成分分析。程序。国家Conf.Artif。智力。
[31] 聂福平。;徐,D。;Tsang,I.H。;Zhang,C.S.,《柔性流形嵌入:半监督和非监督降维框架》,IEEE图像处理汇刊,1921-1931(2010)·Zbl 1371.94276号
[32] Nie,F.P.、Yuan,J.J.和Huang,H.(2014)。最优均值稳健主成分分析。程序。第31届国际会议马赫数。学习。; 聂F.P.、袁J.J.和黄H.(2014)。最优均值稳健主成分分析。程序。第31届国际会议机械。学习。
[33] 乔·L·S。;陈S.C。;Tan,X.Y.,稀疏保持投影及其在人脸识别中的应用,模式识别,43,331-341(2010)·Zbl 1186.68421号
[34] 乔,Z。;周,L。;Huang,J.Z.,稀疏线性判别分析在高维低样本数据中的应用,IAENG国际应用数学杂志,39,1,48-60(2009)·Zbl 1229.62086号
[35] Roweis,S。;Saul,L.,通过局部线性嵌入降低非线性维数,《科学》,290,5500,2323-2326(2000)
[36] Shao先生。;套件,D。;Fu,Y.,通过低秩约束的广义转移子空间学习,国际计算机视觉杂志,109,74-93(2014)·Zbl 1328.68250号
[37] Srivastava,G.、Shao,M.和Fun,Y.(2013)。用于半监督人脸分类的低秩嵌入。程序。IEEE自动人脸和手势识别(FG)国际会议和研讨会; Srivastava,G.、Shao,M.和Fun,Y.(2013)。用于半监督人脸分类的低秩嵌入。程序。IEEE自动人脸和手势识别(FG)国际会议和研讨会
[38] Turk,M.和Pentland,A.(1991年)。使用特征脸的人脸识别。程序。IEEE国际协调计算。视觉。模式识别。; Turk,M.和Pentland,A.(1991年)。使用特征脸的人脸识别。程序。IEEE国际协调计算。视觉。模式识别。
[39] Vu,T.H。;Monga,V.,用于图像分类的快速低阶共享字典学习,IEEE Transactions on image Processing,16,11,5160-5175(2017)·Zbl 1409.94599号
[40] Xu,Y。;方X.Z。;Li,X.L。;杨,J。;你,J。;Liu,H.,人脸识别中的数据不确定性,IEEE控制论汇刊,44,10,1950-1961(2014)
[41] 严,S。;徐,D。;张,B。;张,H。;杨琼。;Lin,S.,图嵌入与扩展:降维的一般框架,IEEE模式分析与机器智能汇刊,29,1,40-51(2007)
[42] Ye,J.P。;Janardan,R。;李强。;Park,H.,通过广义不相关线性判别分析进行特征约简,IEEE知识与数据工程汇刊,18,10,1312-1322(2006)
[43] Ye,J.P.和Xiong,T.(2006年)。零空间与正交线性判别分析。程序。第23届国际会议机械。学习。; Ye,J.P.,&Xiong,T.(2006)。零空间与正交线性判别分析。程序。第23届国际会议机械。学习。
[44] 张,L。;陈,S。;乔,L.,稀疏约束下降维的图形优化,模式识别,45,3,1205-1210(2012)·Zbl 1227.68097号
[45] Zhang,T.Z.,Ghanem,B.,Liu,S.,Xu,C.S.,&Ahuja,N.(2013)。低秩稀疏编码用于图像分类。程序。国际会议计算机视觉; Zhang,T.Z.,Ghanem,B.,Liu,S.,Xu,C.S.,&Ahuja,N.(2013)。低秩稀疏编码用于图像分类。程序。国际会议计算机视觉
[46] 张,L。;乔·L。;Chen,S.,图优化局部保持投影,模式识别,43,6,1993-2002(2010)·Zbl 1191.68611号
[47] Zhang,T.H.,Tao,D.C.和Yang,J.(2008)。区分性位置对齐。程序。第11届欧洲财务会议计算。视觉。; Zhang,T.H.,Tao,D.C.和Yang,J.(2008)。区分性位置对齐。程序。第11届欧洲会议计算。视觉。
[48] 周,H。;哈斯蒂,T。;Tibshirani,R.,《稀疏主成分分析》,《计算与图形统计杂志》,15,2,265-286(2006)
[49] 庄L.S.、高H.Y.、林Z.C.、马Y.、张X.和余N.H.(2012)。用于半监督学习的非负低秩稀疏图。程序。IEEE国际协调计算。视觉。模式识别; 庄L.S.、高H.Y.、林Z.C.、马Y.、张X.和余N.H.(2012)。用于半监督学习的非负低秩稀疏图。程序。IEEE国际协调计算。视觉。模式识别
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。