×
米建勋;张亚楠;赖志辉;李伟生;周立芳;钟，富锦

基于核范数最小化的主成分分析。 （英语） Zbl 1434.68589号

神经网络。 118, 1-16 (2019).
摘要：主成分分析（PCA）是计算机视觉领域中广泛使用的降维和特征提取工具。传统的主成分分析对经验应用中常见的异常值很敏感。因此，近年来，人们做出了大量努力来提高主成分分析的鲁棒性。然而，在这个方向上发展起来的许多新兴PCA变体都有一些弱点。首先，很少有人关注误差矩阵的二维结构。第三，如果样本中的某些元素受到干扰，通过变换矩阵直接投影数据来提取主成分，会导致样本在低维特征子空间中的真实位置映射不正确。为了解决这些问题，我们提出了一种新的鲁棒性方法，称为基于PCA的核范数（N-PCA），以充分利用错误图像的结构信息。同时，它是在一个新的PCA统一框架下开发的，以纠正计算数据平均值的偏差和样本的低维表示，这两者都被视为单个模型中的未知变量以及投影矩阵。为了求解N-PCA，我们提出了一种迭代算法，它在每个迭代中都有一个封闭的解决方案。在几个开放数据库上的实验结果证明了该方法的有效性。

MSC公司：

68T45型 机器视觉和场景理解
62H25个 因子分析和主要成分；对应分析

关键词：

主成分分析;核规范;稳健性;最佳平均值;低维表示

软件：

CMU项目
PDF格式BibTeX公司 XML格式引用
\textit{J.-X.Mi}等人，神经网络。118，1-16（2019年；兹比尔1434.68589）
全文： 内政部

参考文献：

[1] Belhumeur，P.N.、Hespanha，J.P.和Kriegman，D.J.（1997）。特征脸与渔夫脸：使用特定类别的线性投影进行识别。技术报告；美国纽黑文耶鲁大学。；Belhumeur，P.N.、Hespanha，J.P.和Kriegman，D.J.（1997）。特征脸与渔夫脸：使用特定类别的线性投影进行识别。技术报告；美国纽黑文耶鲁大学。
[2] 博伊德，S。；北卡罗来纳州帕里赫。；朱，E。；佩莱托，B。；Eckstein，J.，通过乘数的交替方向方法进行分布式优化和统计学习，机器学习中的Foundations and Trends®，3，1，1-122（2011）·兹比尔1229.90122
[3] 博伊德，S。；Vandenberghe，L.，《凸优化》（2004），剑桥大学出版社·兹比尔1058.90049
[4] 蔡J.-F。；坎迪斯，E.J。；Shen，Z.，矩阵补全的奇异值阈值算法，SIAM优化杂志，20,41956-1982（2010）·Zbl 1201.90155号
[5] 丁，C。；周，D。；何，X。；Zha，H.，R1-PCA：稳健子空间分解的旋转不变l1-范数主成分分析（第23届机器学习国际会议论文集（2006），ACM），281-288
[6] Fornasier，M。；Rauhut，H。；Ward，R.，通过迭代重加权最小二乘最小化恢复低秩矩阵，SIAM优化杂志，21，4，1614-1640（2011）·Zbl 1236.65044号
[7] Gao，Q.-x.，二维主成分分析等价于模主成分分析的特例吗？，模式识别信件，28，10，1250-1251（2007）
[8] Gao，J.，稳健l1主成分分析及其贝叶斯变分推理，神经计算，20，2，555-572（2008）·Zbl 1132.62048号
[9] 高奇。；马，L。；刘，Y。；高，X。；Nie，F.，Angle 2dpca：2dpca的新公式，IEEE控制论汇刊，48，5，1672-1678（2018）
[10] Gottumukkal，R。；Asari，V.K.，《基于模块PCA方法的改进人脸识别技术》，《模式识别字母》，25，4，429-436（2004）
[11] 顾，Z。；邵，M。；李，L。；Fu，Y.，判别度量：Schatten范数与向量范数，（模式识别（ICPR），2012年第21届国际会议，IEEE），1213-1216
[12] 桂，J。；孙，Z。；季S。；陶，D。；Tan，T.，基于结构化稀疏性的特征选择：综合研究，IEEE神经网络和学习系统汇刊，28，7，1490-1507（2017）
[13] Hansson，A。；刘，Z。；Vandenberghe，L.，通过加权核规范优化进行子空间系统识别，（决策与控制（CDC），2012年IEEE第51届年会（2012年），IEEE），3439-3444
[14] He，R。；胡，B.-G。；郑维生。；Kong，X.-W.，基于最大相关熵准则的稳健主成分分析，IEEE图像处理汇刊，20，6，1485-1494（2011）·Zbl 1372.94369号
[15] He，R。；孙，Z。；Tan，T.等人。；Zheng，W.-S.，通过基于半二次非凸极小化的损坏低秩矩阵恢复，（计算机视觉和模式识别（CVPR），2011年IEEE会议（2011年），IEEE，2889-2896
[16] 他，B。；Yang，H.，线性约束单调变分不等式乘子方法的一些收敛性，运筹学快报，23，3-5，151-161（1998）·Zbl 0963.49006号
[17] 黄德胜，《模式识别神经网络系统理论》，第201卷（1996），中国电子工业出版社：中国电子工业出版集团北京
[18] Huang，D.-s.，径向基概率神经网络：模型与应用，国际模式识别与人工智能杂志，13，07，1083-1101（1999）
[19] Huang，D.-S.，用神经网络求多项式任意根的构造性方法，IEEE神经网络汇刊，15，2，477-491（2004）
[20] 黄，D.-S。；Du，J.-X.，径向基概率神经网络的构造性混合结构优化方法，IEEE神经网络汇刊，19，12，2099-2115（2008）
[21] Hyvärinen，A。；Karhunen，J。；Oja，E.，《独立成分分析》，第46卷（2004），John Wiley&Sons
[22] Jolliffe，I.，主成分分析，（国际统计科学百科全书（2011），Springer），1094-1096
[23] 麻省理工学院Jolliffe。；Cadima，J.，《主成分分析：回顾与最新发展》，伦敦皇家学会哲学学报a（数学与物理科学），374206520150202（2016）·Zbl 1353.62067号
[24] 柯，Q。；Kanade，T.，通过替代凸规划在存在异常值和缺失数据的情况下进行鲁棒l/sub1/范数分解，（计算机视觉和模式识别，2005。CVPR 2005。IEEE计算机学会会议，第1卷（2005），IEEE），739-746
[25] Kong，H。；Wang，L。；Teoh，E.K。；李，X。；Wang，J.-G。；Venkateswalu，R.，人脸图像表示和识别的广义2d主成分分析，神经网络，18，5-6，585-594（2005）
[26] Kontogiorgis，S。；Meyer，R.R.，凸优化的可变精度交替方向法，数学规划，83，1-3，29-53（1998）·Zbl 0920.90118号
[27] Koren，Y。；Carmel，L.，《稳健线性降维》，IEEE可视化与计算机图形学报，10，4，459-470（2004）
[28] Kwak，N.，基于l1-范数最大化的主成分分析，IEEE模式分析和机器智能学报，30，9，1672-1680（2008）
[29] 赖，Z。；Xu，Y。；陈，Q。；杨，J。；Zhang，D.，多线性稀疏主成分分析，IEEE神经网络和学习系统汇刊，25,101942-1950（2014）
[30] 赖，Z。；Xu，Y。；杨，J。；沈，L。；Zhang，D.，旋转不变维数约简算法，IEEE控制论汇刊，47，11，3733-3746（2017）
[31] Lee，K.C。；Ho，J。；Kriegman，D.J.，获取可变光照下人脸识别的线性子空间，IEEE模式分析和机器智能汇刊，5684-698（2005）
[32] 李，X。；Pang，Y。；Yuan，Y.，基于L1-范式的2dpca，IEEE系统、人与控制论汇刊，B部分（控制论），40，4，1170-1175（2010）
[33] 狮子，P.-L。；Mercier，B.，两个非线性算子之和的分裂算法，SIAM数值分析杂志，16，6，964-979（1979）·Zbl 0426.6500号
[34] 刘，G。；林，Z。；Yan，S。；Sun，J。；Yu，Y。；Ma，Y.，通过低秩表示实现子空间结构的稳健恢复，IEEE模式分析和机器智能汇刊，35，1，171-184（2013）
[35] Liwicki，S。；齐米罗普洛斯，G。；Zafeiriou，S。；Pantic，M.，Euler主成分分析，国际计算机视觉杂志，101，3，498-518（2013）·Zbl 1259.68178号
[36] 卢，G.-F。；邹，J。；王，Y。；Wang，Z.，基于L1-范式的自适应正则化主成分分析，模式识别，60，901-907（2016）·Zbl 1414.62216号
[37] 罗，M。；聂，F。；Chang，X。；杨，Y。；Hauptmann，A.G。；Zheng，Q.，避免基于最优均值（ell 2，1）-范数最大化的鲁棒PCA重建，神经计算，29，4，1124-1150（2017）·Zbl 1418.62245号
[38] Martinez，A.M.（1998年）。人脸数据库。CVC技术报告24。；马丁内斯，A.M.（1998年）。ar人脸数据库。CVC技术报告24。
[39] 马什胡里，A。；Jahromi，M.Z.，带集成学习的分块双向2dpca人脸识别，神经计算，108，111-117（2013）
[40] Nefian，A.V.（2013）。乔治亚理工大学人脸数据库。；Nefian，A.V.（2013）。乔治亚理工学院人脸数据库。
[41] Ng，A.Y.，《特征选择，l 1 vs.l 2正则化和旋转不变性》（第二十一届机器学习国际会议论文集（2004），ACM），78
[42] 聂，F。；黄，H。；蔡，X。；Ding，C.H.，通过联合范数最小化进行高效和稳健的特征选择，（神经信息处理系统进展（2010）），1813-1821
[43] 聂，F。；黄，H。；丁，C。；罗，D。；Wang，H.，具有非贪婪l1-范数最大化的稳健主成分分析，（IJCAI进程-国际人工智能联合会议，第22卷（2011）），1433
[44] 聂，F。；袁杰。；Huang，H.，最优均值稳健主成分分析，（机器学习国际会议（2014）），1062-1070
[45] Pang，Y。；李，X。；Yuan，Y.，基于l1-范数的稳健张量分析，IEEE视频技术电路和系统汇刊，20，2，172-178（2010）
[46] 西姆·T。；贝克，S。；Bsat，M.，CMU姿势、照明和表情（PIE）数据库，（自动人脸和手势识别，2002年）。诉讼程序。第五届ieee国际会议（2002年），ieee，53-58
[47] Tsagkarakis，N。；马克普洛斯，P.P。；斯科利文提斯，G。；Pados，D.A.，复杂数据的L1-形式主成分分析，IEEE信号处理学报，66，12，3256-3267（2018）·Zbl 1414.90377号
[48] 王，Q。；Gao，Q.，f-范数最小化的二维PCA，（AAAI（2017）），2718-2724
[49] 王，Q。；高奇。；高，X。；Nie，F.，\（\ell 2\），用于图像识别的基于p范数的主成分分析，IEEE图像处理汇刊，1（2016）
[50] 王，Q。；高奇。；高，X。；Nie，F.，Angle主成分分析，（第26届国际人工智能联合会议论文集（2017），AAAI出版社），2936-2942
[51] 王，Q。；高奇。；高，X。；Nie，F.，具有F范数最小化的最优平均二维主成分分析，模式识别，68，286-294（2017）
[52] Wang，H。；Wang，J.，《同时稳健和稀疏建模的l1范数2dpca》，神经网络，46，190-198（2013）·Zbl 1296.68150号
[53] 杨，J。；罗，L。；钱，J。；Tai，Y。；张，F。；Xu，Y.，基于核范数的矩阵回归及其在遮挡和光照变化人脸识别中的应用，IEEE模式分析和机器智能汇刊，39，1，156-171（2017）
[54] 杨，J。；张博士。；Frangi，A.F。；Yang，J.-y.，《二维PCA：基于外观的人脸表示和识别的新方法》，IEEE模式分析和机器智能汇刊，26，1，131-137（2004）
[55] Yi，S。；赖，Z。；何，Z。；张，Y.-m。；刘毅，联合稀疏主成分分析，模式识别，61524-536（2017）·Zbl 1428.68266号
[56] Yuan，X.，&Yang，J.（2009）。通过交替方向方法进行稀疏和低秩矩阵分解，预印本，12:2。；Yuan，X.和Yang，J.（2009年）。通过交替方向方法进行稀疏和低阶矩阵分解，预印本，12:2。
[57] 张，F。；杨，J。；钱，J。；Xu，Y.，用于从图像中提取特征的基于核范数的2-DPCA，IEEE神经网络和学习系统汇刊，26，10，2247-2260（2015）
[58] 赵，Z.-Q。；Huang，D.-S.，改进径向基函数神经网络混合学习算法以提高泛化能力，应用数学建模，31，7，1271-1281（2007）·Zbl 1128.68085号
[59] 赵，Z。；Shkolnisky，Y。；Singer，A.，《快速可控主成分分析》，IEEE计算成像汇刊，2，1，1-12（2016）
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。