×

微扰LDA:学习班级经验平均数与其期望值之间的差异。 (英语) Zbl 1178.68523号

摘要:Fisher线性判别分析(LDA)在许多模式识别应用中,特别是生物特征学习中,广泛用于降维和提取判别特征。在推导费希尔LDA公式时,有一个假设,即类别经验平均值等于其期望值。然而,这种假设在实践中可能无效。本文从“摄动”的角度出发,提出了一种新的算法,称为摄动LDA(P-LDA),其中引入摄动随机向量,以了解类经验平均值与其在Fisher准则中的期望值之间的差异的影响。Fisher准则中的扰动学习将产生与一些扰动因子集成的类内和类间协方差矩阵的新形式。此外,还提出了一种估计扰动随机向量协方差矩阵的方法,以便于实际实现。在合成数据集和真实人脸图像数据集上对所提出的P-LDA进行了评估。实验结果表明,在欠采样情况下,P-LDA的性能优于流行的基于Fisher LDA的算法。

MSC公司:

68吨10 模式识别、语音识别
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] Fisher,R.A.,《多重测量的统计利用》,Ann.Eugen。,8, 376-386 (1938) ·Zbl 0019.35703号
[2] Swets,D.L。;Weng,J.,将判别特征用于图像检索,IEEE Trans。模式分析。机器。智力。,1831-836(1996年)
[3] Webb,A.R.,《统计模式识别》(2002),威利出版社:英国威利出版社·Zbl 1102.68639号
[4] 赵伟。;切拉帕,R。;菲利普斯,J。;Rosenfeld,A.,《面部识别:文献调查》,ACM Compute。调查。,399-458 (2003)
[5] Belhumeur,P.N。;赫斯帕尼亚,J.P。;Kriegman,D.J.,《特征脸vs.Fisherfaces:使用类特定线性投影进行识别》,IEEE Trans。模式分析。机器。智力。,19, 7, 711-720 (1997)
[6] Chen,L。;廖,H。;Ko,M。;林,J。;Yu,G.,一种新的基于LDA的人脸识别系统,可以解决小样本问题,模式识别,33,10,1713-1726(2000)
[7] 塞维卡普,H。;Neamtu,M。;Wilkes,M。;Barkana,A.,人脸识别的鉴别公共向量,IEEE Trans。模式分析。机器。智力。,27, 1, 4-13 (2005)
[8] 黄荣华,刘庆庆,陆海璐,马士骏,解决LDA中的小样本问题,ICPR 2002。;黄荣华,刘庆庆,卢海鲁,马士骏,解决LDA中的小样本问题,ICPR 2002。
[9] 戴德清。;袁P.C.,正则化判别分析及其在人脸识别中的应用,模式识别,36845-847(2003)·Zbl 1032.68129号
[10] Hong,Z.-Q。;杨建勇,小样本的最优鉴别平面和平面上分类器的设计方法,模式识别,24317-324(1991)
[11] 卢,J。;Plataniotis,K.N。;Venetsanopoulos,A.N.,小样本情况下线性判别分析的正则化研究及其在人脸识别中的应用,模式识别快报。,26, 2, 181-191 (2005)
[12] P.Zhang,J.Peng,N.Riedel,判别分析:最小二乘近似观点,CVPR 2005。;P.Zhang,J.Peng,N.Riedel,《判别分析:最小二乘近似观点》,CVPR 2005年。
[13] W.Zhao,R.Chellappa,P.J.Phillips,人脸识别的子空间线性判别分析,技术报告CAR-TR-914,CS-TR-4009,马里兰大学帕克学院,美国,1999年。;W.Zhao,R.Chellappa,P.J.Phillips,人脸识别的子空间线性判别分析,技术报告CAR-TR-914,CS-TR-4009,美国马里兰大学学院公园,1999年。
[14] 余,H。;Yang,J.,高维数据的直接LDA算法及其在人脸识别中的应用,模式识别,342067-2070(2001)·Zbl 0993.68091号
[15] Ye,J.P。;Li,Q.,LDA/QR:一种高效的降维算法及其理论基础,模式识别,37,4,851-854(2004)
[16] Duchene,J。;Leclercq,S.,判别和主成分分析的最佳变换,IEEE Trans。模式分析。机器。智力。,10, 6, 978-983 (1988) ·Zbl 0655.62064号
[17] Z.Jin。;Yang,J.Y。;胡Z.S。;Lou,Z.,基于不相关鉴别变换的人脸识别,模式识别,341405-1416(2001)·Zbl 0978.68118号
[18] 熊,H。;斯瓦米,M.N.S。;Ahmad,M.O.,人脸识别的二维FLD,模式识别,3811121-1124(2005)
[19] 杨,J。;张,D。;Yong,X。;Yang,J.-y.,用于人脸识别的二维判别变换,模式识别,381125-1129(2005)·Zbl 1081.68671号
[20] 叶杰,R.Janardan,Q.Li,二维线性判别分析,NIPS 2004。;J.Ye,R.Janardan,Q.Li,二维线性判别分析,NIPS 2004。
[21] 郑维生。;赖,J.H。;Li,S.Z.,1D-LDA与2D-LDA:什么时候基于向量的线性判别分析比基于矩阵的更好?,模式识别,41,7,2156-2172(2008)·Zbl 1138.68051号
[22] 普莱斯,J.R。;Gee,T.F.,使用直接加权线性判别分析和模子空间的人脸识别,模式识别,38,209-219(2005)·Zbl 1079.68610号
[23] Friedman,J.H.,正则化判别分析,美国统计协会,84,405(1989)
[24] 霍夫贝克,J.P。;Landgrebe,D.A.,有限训练数据的协方差矩阵估计和分类,IEEE Trans。模式分析。机器。智力。,18, 763-767 (1996)
[25] Bensmail,H。;Celeux,G.,通过特征值分解进行正则化高斯判别分析,美国统计协会,91,1743-1748(1996)·Zbl 0885.62068号
[26] 朱,M。;Martinez,A.M.,子类判别分析,IEEE Trans。模式分析。机器。智力。,28, 8, 1274-1286 (2006)
[27] 林,S.P。;Perlman,M.D.,协方差矩阵四个估计量的蒙特卡罗比较,(Krishnaiah,P.R.,多元分析-VI:第六届多元分析国际研讨会论文集(1985年),Elsevier:荷兰Elsevier阿姆斯特丹),411-429·Zbl 0593.62051号
[28] 塔朱丁,S。;Landgrebe,D.A.,有限训练样本的协方差估计,IEEE Trans。地质科学。遥感,37,4,2113-2118(1999)
[29] Thomaz,C.E。;Gillies,D.F。;Feitosa,R.Q.,生物识别中贝叶斯分类器的一种新协方差估计,IEEE Trans。电路系统。视频技术。,14, 2, 214-223 (2004)
[30] 沃尔,P.W。;Kronmall,R.A.,协方差相等且样本大小适中时的判别函数,《生物统计学》,33,479-484(1977)·Zbl 0371.62091号
[31] Kirby,M。;Sirovich,L.,《Karhunen-Loeve程序在人脸特征描述中的应用》,IEEE Trans。模式分析。机器。智力。,12, 1, 103-108 (1990)
[32] 马丁内斯,A.M。;Kak,A.C.,PCA与LDA,IEEE Trans。模式分析。机器。智力。,23, 2, 228-233 (2001)
[33] 杨,J。;Yang,J.Y.,为什么LDA可以在PCA变换的空间中执行?,模式识别,36,2563-566(2003)
[34] Phillips,P.J。;Moon,H。;Rizvi,S.A。;Rauss,P.J.,人脸识别算法的FERET评估方法,IEEE Trans。模式分析。机器。智力。,22, 10, 1090-1103 (2000)
[35] 西姆·T。;贝克,S。;Bsat,M.,《CMU姿势、照明和表情数据库》,IEEE Trans。模式分析。机器。智力。,25, 12, 1615-1619 (2003)
[36] J.Yang,D.Zhang,J.-y.Yang,Median LDA:一种稳健的人脸识别特征提取方法,收录于:IEEE系统、人与控制论国际会议(SMC2006),台湾。;J.Yang,D.Zhang,J.-y.Yang,Median LDA:人脸识别的稳健特征提取方法,收录于:IEEE系统、人与控制论国际会议(SMC2006),台湾。
[37] Herbrich,R.,《学习核分类器理论和算法》(2002年),麻省理工学院出版社:麻省理学院出版社,英国伦敦剑桥·Zbl 1504.68002号
[38] 肖-泰勒,J。;Cristianini,N.,《模式分析的核心方法》(2004),剑桥大学出版社:剑桥大学出版社
[39] Loog,M。;Duin,R.P.W.,通过LDA的异方差扩展进行线性降维:切尔诺夫准则,IEEE Trans。模式分析。机器。智力。,26, 6, 732-739 (2004)
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。