×
安森建;刘万全;斯维萨·文卡泰什;闫红

线性判别分析方法的统一公式和最佳参数选择。 （英语） Zbl 1211.68345号

模式识别 44，第2期，307-319（2011）.
摘要：在过去的十年中，许多经典线性判别分析（LDA）变体被开发用于解决人脸识别中的欠采样问题。然而，选择变量并不容易，因为这些方法涉及特征值分解，这使得交叉验证的计算成本高昂。在本文中，我们建议通过将这些LDA变量统一在一个框架中来解决这个问题：主成分分析（PCA）+约束岭回归（CRR）。在CRR中，为每个类选择目标（也称为类指示符），并找到一个投影来将类中心定位在其类目标处，并且变换最小化类内距离，并对变换范数进行惩罚，如在岭回归中。在此框架下，许多现有的LDA方法可以被视为具有特定正则化数和类别指标的PCA+CRR，我们建议选择最佳LDA方法作为从CRR系列中选择最佳成员的方法。后者可以通过比较它们的leave-one-out（LOO）错误来完成，我们提出了一种有效的算法，它需要与CRR的训练过程类似的计算来评估LOO错误。在耶鲁大学Face B、扩展耶鲁大学B和CMU-PIE数据库上进行了实验，以证明所提方法的有效性。

MSC公司：

68吨10 模式识别、语音识别
62H30型 分类和区分；聚类分析（统计方面）

关键词：

线性鉴别分析;型号选择;欠采样问题;人脸识别;主成分分析;约束岭回归

软件：

CMU派;KPCA加LDA;ap集群;A群集;耶鲁脸
PDF格式BibTeX公司 XML格式引用
\textit{S.An}等人，模式识别44，No.2，307--319（2011；Zbl 1211.68345）
全文： 内政部

参考文献：

[1] 哈斯蒂，T。；Tibshirani，R。；Friedman，J.，《统计学习的要素》（2001），Springer-Verlag:Springer-Verlag纽约·Zbl 0973.62007号
[2] Belhumeur，P。；赫斯帕尼亚，J。；Kriegman，D.，《特征脸vs.Fisherfaces:使用类特定线性投影进行识别》，IEEE Trans。模式分析。机器。智力。，19, 7, 711-720 (1997)
[3] 黄，R。；刘，Q。；卢，H。；Ma，S.，解决LDA的小样本问题，（IEEE模式识别国际会议论文集，ICPR（2002））
[4] Ye，J。；Li，Q.，通过QR分解的两阶段线性判别分析，IEEE Trans。模式分析。机器。智力。，929-941年6月27日（2005年）
[5] 豪兰，P。；Park，H.，使用广义奇异值分解的广义判别分析，IEEE Trans。模式分析。机器。智力。，1999年8月26日至2006年10月26日（2004年）
[6] 张，S。；Sim，T.，判别子空间分析：Fukunaga-Koontz方法，IEEE Trans。模式分析。机器。智力。，29, 10, 1732-1745 (2007)
[7] Yu，H。；Yang，J.，高维数据的直接LDA算法及其在人脸识别中的应用，模式识别，34，11，2067-2070（2001）·Zbl 0993.68091号
[8] 杨，J。；Yang，J.Y.，为什么LDA可以在PCA变换空间中执行，模式识别，36，2，563-566（2000）
[9] Chen，L.F。；廖海云。；Ko，M.T。；Lin，J.C。；Yu，G.J.，一种新的基于LDA的人脸识别系统，可以解决小样本问题，模式识别，33，10，1713-1726（2000）
[10] 塞维卡普，H。；尼姆图，M。；Wilkes，M。；Barkana，A.，人脸识别的鉴别公共向量，IEEE Trans。模式分析。机器。智力。，27, 1, 4-13 (2005)
[11] 米卡，S。；Rätsch，G。；韦斯顿，J。；Schölkopf，B。；Müller，K.-R.，Fisher核判别分析，（Hu，Y.-H.；Larsen，J.；Wilson，E.；Douglas，S.，《信号处理神经网络IX》（1999），IEEE），41-48
[12] Baudat，G。；Anouar，F.，使用核方法的广义判别分析，神经计算，12，10，2385-2404（2000）
[13] Yang，M.-H.，《内核特征脸与内核渔夫脸：使用内核方法的人脸识别》，（FGR'02:第五届IEEE自动人脸和手势识别国际会议论文集（2002），IEEE计算机学会：IEEE计算机协会，美国华盛顿特区），215
[14] G.Dai，Y.T.Qian，用于模式识别的Kernel广义非线性判别分析算法，载：IEEE图像处理国际会议论文集，2004。；G.Dai，Y.T.Qian，用于模式识别的Kernel广义非线性判别分析算法，载《IEEE图像处理国际会议论文集》，2004年。
[15] 刘庆生。；卢，H.Q。；Ma，S.D.，改进核Fisher判别分析用于人脸识别，IEEE Trans。电路系统。视频技术，14，1，42-49（2004）
[16] 卢，J.W。；Plataniotis，K.N。；Venetsanopoulos，A.N.，使用核直接判别分析算法的人脸识别，IEEE Trans。神经网络，14，1，117-126（2003）
[17] 卢，J.W。；Plataniotis，K.N。；Venetsanopoulos，A.N。；王杰，一种有效的核判别分析方法，模式识别，38，10，1788-1790（2005）·Zbl 1077.68804号
[18] 杨，J。；Frangi，A.F。；Yang，J.Y。；张，D。；Jin，Z.，KPCA plus LDA：用于特征提取和识别的完整核Fisher判别框架，IEEE Trans。模式分析。机器。智力。，27, 2, 230-244 (2005)
[19] 王，X。；Tang，X.，子空间人脸识别的统一框架，IEEE Trans。模式分析。机器。智力。，26, 9, 1222-1228 (2004)
[20] 特克，M。；Pentland，A.P.，使用特征脸的人脸识别，（IEEE计算机视觉和模式识别会议，CVPR（1991））
[21] 莫加达姆，B。；Jebara，T。；Pentland，A.，贝叶斯人脸识别，模式识别，331771-1782（2000）
[22] Moghaddam，B.，视觉识别的主流形和概率子空间，IEEE Trans。模式分析。机器。智力。，24, 6, 780-788 (2002)
[23] 蒋，X。；曼达尔，B。；Kot，A.，人脸识别中的特征正则化和提取，IEEE Trans。模式分析。机器。智力。，30, 3, 383-394 (2008)
[24] Hamsici，O.C。；Martinez，A.M.，线性判别分析中的贝叶斯最优性，IEEE Trans。模式分析。机器。智力。，30, 4, 647-657 (2008)
[25] M.Plutowski，《调查：理论和实践中的交叉验证》，研究报告。计算科学研究部，大卫·萨诺夫研究中心，普林斯顿，新泽西州，1996年。；M.Plutowski，《调查：理论和实践中的交叉验证》，研究报告。计算科学研究部，大卫·萨诺夫研究中心，普林斯顿，新泽西州，1996年。
[26] 季S。；Ye，J.，《广义线性判别分析：统一框架和有效模型选择》，IEEE Trans。神经网络，19，10，1768-1782（2008）
[27] 安，S。；刘，W。；Venkatesh，S.，用于最小二乘支持向量机和核脊回归的快速交叉验证算法，模式识别，40，8，2154-2162（2007）·Zbl 1115.68125号
[28] Ye，J.，最小二乘线性判别分析，（机器学习国际会议论文集，ICML（2007））
[29] Sun，L。；季S。；Ye，J.，典型相关分析的最小二乘公式，（机器学习国际会议论文集，ICML（2008））
[30] 豪兰，P。；Jeon，M。；Park，H.，基于广义奇异值分解的聚类文本数据保结构降维，SIAM J.Matrix Ana。申请。，25, 1, 165-179 (2003) ·Zbl 1061.68135号
[31] Jiang，X.，模式分类的非对称主成分和判别分析，IEEE Trans。模式分析。机器。智力。，31, 5, 931-937 (2009)
[32] 乔治亚德斯，A。；Belhumeur，P。；Kriegman，D.，《从少到多：可变光照和姿势下人脸识别的照明锥模型》，IEEE Trans。模式分析。机器。智力。，23, 6, 643-660 (2005)
[33] Lee，K。；Ho，J。；Kriegman，D.，获取可变光照下人脸识别的线性子空间，IEEE Trans。模式分析。机器。智力。，27, 5, 684-698 (2005)
[34] 西姆·T。；贝克，S。；Bsat，M.，CMU姿势、照明和表情（PIE）数据库，（第五届IEEE自动人脸和手势识别国际会议论文集（2002年），IEEE计算机学会：IEEE计算机协会，华盛顿特区，美国），215
[35] 西姆·T。；贝克，S。；Bsat，M.，CMU姿势照明和表达（PIE）数据库，IEEE Trans。模式分析。机器。智力。，25, 12, 1615-1618 (2003)
[36] 何，X。；Yan，S。；胡，Y。；Niyogi，P。；张海杰，使用拉普拉斯人脸进行人脸识别，IEEE Trans。模式分析。机器。智力。，27, 3, 328-340 (2005)
[37] 蔡，D。；何，X。；Han，J。；张海杰，人脸识别的正交拉普拉斯人脸，IEEE Trans。图像处理。，15, 11, 3608-3614 (2006)
[38] Jahne，B.，《数字图像处理》（2005），施普林格出版社：柏林施普林格
[39] 弗雷，B。；Dueck，D.，通过在数据点之间传递消息进行聚类，《科学》，315972-976（2007）·Zbl 1226.94027号
[40] Yan，S。；徐，D。；张，B。；张海杰。；杨琼。；Lin，S.，图嵌入和扩展：降维的一般框架，IEEE Trans。模式分析。机器。智力。，29, 1, 40-51 (2007)
[41] Sheng，Y。；库查尔斯基，K。；萨德卡，A。；Skarbek，W.，《自动人脸合成与分析：快速调查》（计算机视觉与图形（2006），施普林格出版社：施普林格荷兰）
[42] Xu，H。；Caramanis，C。；Mannor，S.，《支持向量机的鲁棒性和正则化》，J.Mach。学习。第10号决议，1485-1510（2009年）·Zbl 1235.68209号
[43] 薛，H。；陈S.C。；杨琼，判别正则最小二乘分类，模式识别，42，1，93-104（2009）·Zbl 1159.68547号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。