×

双\(\mathrm{左}_{2,\mathrm{p}}\)-基于范数的PCA用于特征提取。 (英语) Zbl 1531.68079号

摘要:最近,用于特征提取的稳健距离相关主成分分析(PCA)被证明对图像分析非常有效,它考虑了重建误差最小化或低维子空间中数据方差最大化。然而,它们对特征提取都很重要。此外,由于距离度量使用了不灵活的鲁棒范数,现有的大多数方法都无法获得满意的结果。为了解决这些问题,本文提出了一种新的鲁棒PCA公式,称为Double(mathrm{左}_{2,\mathrm{p}}\)-基于范数的PCA(DLPCA)用于特征提取,其中在一个统一的框架中同时考虑重建误差的最小化和方差的最大化。在重建误差函数中,我们的目标是学习一个潜在的子空间,以连接变换后的特征和原始特征之间的关系。为了保证目标对异常值不敏感,我们采用\(\mathrm{左}_{2,\mathrm{p}}范数作为重建误差和数据方差的距离度量。这些特点使我们的方法更适用于特征提取。我们提出了一种有效的迭代算法来求解这项具有挑战性的工作,并对算法的收敛性进行了理论分析。在多个数据库上的实验结果表明了该模型的有效性。

MSC公司:

68T05型 人工智能中的学习和自适应系统
62H25个 因子分析和主成分;对应分析
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] 图尔克,M。;Pentland,A.,识别特征脸,J.Cogn。神经科学。,3, 1, 71-86 (1991)
[2] Kwak,N.,基于L1-形式最大化的主成分分析,IEEE Trans。模式分析。机器。智力。,30, 9, 1672-1680 (2008)
[3] 钱建杰。;Zhu,S.M。;Wong,W.K。;张海明。;赖,Z.H。;杨,J.,模式分类的双重稳健回归,信息科学。,546, 1014-1029 (2021) ·Zbl 1475.62190号
[4] 赖,Z。;Xu,Y。;Yang,J.等人。;沈,L。;Zhang,D.,旋转不变降维算法,IEEE Trans。赛博。,47, 11, 3733-3746 (2017)
[5] 高奇。;徐,S。;陈,F。;丁,C。;高,X。;Li,Y.,R1-2-DPCA和人脸识别,IEEE Trans。赛博。,49, 4, 1212-1223 (2019)
[6] 郑,W.M。;卢,C。;林,Z.C。;张,T。;Yang,W.K.,混合高斯分布下的L1-形式异方差判别分析,IEEE Trans。神经网络。学习。系统。,30, 10, 2898-2915 (2019)
[7] Wang,H。;卢,X。;胡,Z。;郑伟,用L1-形式进行Fisher判别分析,IEEE Trans。赛博。,44, 6, 828-842 (2014)
[8] 北沙希德。;卡洛菲利斯,V。;布列松,X。;Bronstein,M。;Vandergheynst,P.,《图的稳健主成分分析》(Proc.IEEE Int.Conf.Compute.Vis.,Santiago,Chile(2015)),2812-2820
[9] 拉赫曼尼,M。;Atia,G.K.,《一致性追求:快速、简单和稳健的主成分分析》,IEEE Trans。信号处理。,65, 23, 6260-6275 (2017) ·Zbl 1415.94210号
[10] J.Fan,Q.Sun,W.Zhou,Z.Zhu,大数据主成分分析,arXiv:1801.016022018。
[11] Lerman,G。;Maunu,T.,稳健子空间恢复概述,Proc。IEEE,108,8,1380-1410(2018)
[12] 高奇。;马,L。;刘,Y。;高,X。;Nie,F.,Angle 2DPCA:2DPCA的新公式,IEEE Trans。赛博。,48, 5, 1672-1678 (2018)
[13] 柯,Q。;Kanade,T.,通过替代凸规划在存在离群值和缺失数据的情况下进行鲁棒L1范数分解,(Proc.IEEE Conf.Compute.Vis.Pattern Recognit,San Diego,CA,USA(2005)),739-746
[14] 聂,F。;黄,H。;丁,C。;罗,D.J。;Wang,H.,用非贪婪L1-形式最大化进行稳健主成分分析,第二十二届国际人工智能联合会议论文集(2011)
[15] 丁,C。;周,D。;何,X。;Zha,H.,R1-PCA:稳健子空间分解的旋转不变L1-形式主成分分析,(Proc.Int.Conf.Mach.Learn.(2006)),281-288
[16] 卢,K。;Savvides先生。;Bui,T.D。;Suen,C.Y.,压缩子流形多因素分析,IEEE Trans。模式分析。机器。智力。,39, 3, 444-456 (2017)
[17] 张,D。;孙,Y。;Ye,Q.L。;Tang,J.,带▽_1-形式距离约束的递归判别子空间学习,IEEE Trans。赛博。,50, 5, 2138-2151 (2020)
[18] Ye,Q。;Yang,J.等人。;刘,F。;赵,C。;Ye,N。;Yin,T.,L1-基于有效迭代算法的距离线性判别分析,IEEE Trans。电路系统。视频技术。,28, 1, 114-129 (2018)
[19] F.P.Nie,H.Wang,Z.Wang,利用L1,2-形式的比率最小化进行鲁棒线性判别分析,arXiv:1902.038402019。
[20] Wen,J。;方,X。;崔,J。;费,L。;Yan,K.e。;陈,Y。;Xu,Y.,稳健稀疏线性判别分析,IEEE Trans。电路系统。视频技术。,29, 2, 390-403 (2019)
[21] 刘,Y。;高奇。;苗,S。;高,X。;聂,F。;Li,Y.,L1-形式LDA的非贪婪算法,IEEE Trans。图像处理。,26, 2, 684-695 (2017) ·Zbl 1409.94401号
[22] 赵,H。;王,Z。;Nie,F.,稳健降维线性判别分析的新公式,IEEE Trans。知识。数据工程,31,4,629-640(2019)
[23] 陈,X。;Yang,J.等人。;Jin,Z.,《用L1-形式改进线性判别分析进行稳健特征提取》,(Proc.22nd Int.Conf.Pattern Recognit.(ICPR),瑞典斯德哥尔摩(2014)),1585-1590
[24] Ye,Q.L。;赵浩。;Fu,L.Y。;Gao,S.B.,非自由LDA-L1算法之间的潜在联系,IEEE Trans。图像处理。,27, 5, 2557-2559 (2018) ·Zbl 1409.94715号
[25] Yang,J.等人。;张,D。;Frangi,A.F。;Yang,J.-Y.,《二维PCA:基于外观的人脸表示和识别的新方法》,IEEE Trans。模式分析。机器。智力。,26, 1, 131-137 (2004)
[26] 李,X。;Pang,Y。;Yuan,Y.,基于L1-范式的2DPCA,IEEE Trans。系统。,天啊,赛博。B、 赛博。,40, 4, 1170-1175 (2010)
[27] Wang,H。;Wang,J.,用于同时稳健和稀疏建模的L1-形式2DPCA,神经网络。,46, 190-198 (2013) ·Zbl 1296.68150号
[28] Li,B.N。;于清。;王,R。;Xiang,K。;王,M。;Li,X.,非贪婪L_1范数最大化的块主成分分析,IEEE Trans。赛博。,46, 11, 2543-2547 (2016)
[29] 王,R。;聂,F。;杨,X。;高,F。;Yao,M.,用于图像分析的具有非贪婪L_1范数最大化的鲁棒2DPCA,IEEE Trans。赛博。,45, 5, 1108-1112 (2017)
[30] Xiao,X.L。;Zhou,Y.C.,二维四元数PCA和稀疏PCA,IEEE Trans。神经网络。学习。系统。,30, 7, 2028-2042 (2019)
[31] Kwak,N.,通过L_p-范数最大化进行主成分分析,IEEE Trans。赛博。,44, 5, 594-609 (2014)
[32] 王,Q。;高奇。;高,X。;Nie,F.,L_2,基于p-范数的PCA图像识别,IEEE Trans。图像处理。,27, 3, 1336-1346 (2018) ·兹比尔1409.94616
[33] Wang,J.,图像分析的Lp-范数广义二维主成分分析,IEEE Trans。赛博。,46, 3, 792-803 (2016)
[34] Ye,Q.L。;Zhang,Z.,用于图像分类的旋转不变鉴别子空间学习,Proc。国际会议模式识别。(2018)
[35] Fu,L.Y。;Li,Z.C。;Ye,Q.L。;尹,H。;刘,Q。;陈,X。;范,X。;Yang,W.K。;Yang,G.W.,基于联合L2,p-和L2,s-范数距离度量的鲁棒鉴别子空间学习,IEEE Trans。Netw公司。学习系统。(2020)
[36] Wang,H。;Nie,F.P.,通过P阶最小化学习鲁棒的局部保持鉴别,(Proc.Int.Conf.Artif.Intell.(2015)),3059-3065
[37] (Boyd,S.;Vandenberghe,L.,《凸优化》(2004),剑桥大学出版社)·Zbl 1058.90049号
[38] 方,X。;Teng,S。;赖,Z。;何,Z。;谢S。;Wong,W.K.,用于图像分类的鲁棒潜子空间学习,IEEE Trans。神经网络学习。系统。,29, 6, 2502-2515 (2018)
[39] Yi,S。;赖,Z。;何,Z。;张永明。;刘毅,联合稀疏主成分分析,模式识别。,61, 524-536 (2017) ·Zbl 1428.68266号
[40] 钱建杰。;Yang,J.等人。;Xu,Y。;谢军。;赖,Z.H。;张,B.,基于图像分解的矩阵回归及其在稳健人脸识别中的应用,模式识别。,102,第107204条pp.(2020)
[41] 谢建忠。;Yang,J.等人。;钱建杰。;Luo,L.,用于人脸识别的双加权稳健矩阵回归,神经计算,237,10,375-387(2017)
[42] 邹,H。;哈斯蒂,T。;Tibshirani,R.,稀疏主成分分析,J.Compute。图表。统计,15,2,265-286(2006)
[43] 西姆·T。;贝克,S。;Bsat,M.,CMU姿势、照明和表情数据库,IEEE Trans。模式分析。机器。智力。,25, 12, 1615-1618 (2003)
[44] Geusebroek,J.-M。;Burghouts,G.J。;Smeulders,A.W.M.,阿姆斯特丹物体图像库,国际计算机杂志。愿景,61,1103-112(2005)
[45] <https://www.cl.cam.ac.uk/research/dtg/attarchive/facedatabase.html>.
[46] Houben,S。;Stallkamp,J。;萨勒曼,J。;Schlipsing,M。;Igel,C.,真实世界图像中交通标志的检测:德国交通标志检测基准,(Proc.Int.Conf.Neural Netw(2013)),1-8
[47] Ye,Q.L。;Li,Z.C。;Fu,L.Y。;张,C。;Yang,W.K。;杨国伟,非峰判别分析,IEEE Trans。神经网络学习。系统。,30, 12, 3818-3832 (2019)
[48] 叶,Q.L。;赵浩。;Li,Z.C。;杨晓波(Yang,X.B.)。;高S.B。;尹,T.M。;Yie,N.,基于L1-形式距离最小化的快速鲁棒双支持向量k平面聚类,IEEE Trans。神经网络学习。系统。,29, 9, 4494-4503 (2018)
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。