×
王新超;陶大成;李、朱

用于最小二乘回归的熵控制拉普拉斯正则化。 （英语） Zbl 1197.94139号

信号处理。 2043-2049号第90页（2010年）.
摘要：最小二乘回归（LSR）是模式分类中的常用方法。与其他基于矩阵分解的方法相比，该方法简单高效。然而，LSR在训练阶段忽略了未标记的样本，因此当标记的样本不足时，回归误差可能很大。为了解决这个问题，拉普拉斯正则化可以用来惩罚LSR。大量的理论和实验结果证实了拉普拉斯正则最小二乘法的有效性。然而，已经引入了多个超参数来估计正则化所导致的固有流形，因此需要使用耗时的交叉验证来调整这些参数。为了缓解这个问题，我们假设内在流形是一组已知流形的线性组合。通过进一步假设给定流形的先验值是等价的，我们引入了熵最大化惩罚来自动学习线性组合系数。熵最大化在复杂性上权衡了平滑性。
因此，该模型具有以下优点：（1）它能够将标记数据和未标记数据合并到训练过程中，（2）它能够自动学习流形超参数，（3）它近似于相对于指定测试数据的真实概率分布。为了测试我们提出的模型的分类性能，我们将该模型应用于三个著名的人脸数据集，即FERET、ORL和YALE。在这三个人脸数据集上的实验结果表明，与传统的LSR和拉普拉斯正则化最小二乘法相比，新模型的有效性和效率。

引用于2文件

MSC公司：

94甲12 信号理论（表征、重建、滤波等）

关键词：

流形学习;最小二乘法;人脸识别

软件：

费雷特;耶鲁脸;ORL面
PDF格式BibTeX公司 XML格式引用
\textit{X.Wang}等人，《信号处理》。90，第6号，2043--2049（2010；Zbl 1197.94139）
全文： DOI程序

参考文献：

[1] Belhumeur，P。；赫斯帕尼亚，J。；Kriegman，D.：《特征脸vs.Fisherfaces:使用类特定线性投影进行识别》，IEEE trans.actions on pattern analysis and machine intelligence 19，No.7，711-720（1997）
[2] 贝尔金，M。；Niyogi，P。；Sindhwani，V.：流形正则化：从标记和未标记示例学习的几何框架，机器学习研究杂志7，2399-2434（2006）·Zbl 1222.68144号
[3] 蔡，D。；何，X。；Han，J.：SRDA：大规模判别分析的有效算法，IEEE知识与数据工程事务20，第1期，第1-12页（2008年1月）
[4] B.Geng，D.Tao，C.Xu，L.Yang，X.Hua，集成流形正则化，流形正则，收录于：IEEE计算机视觉和模式识别会议2009。
[5] 何，X。；蔡，D。；Han，J.：学习图像检索的最大余量子空间，IEEE知识与数据工程学报20，第2期，189-201（2008年2月）
[6] 何，X。；Niyogi，P.：局部保持投影，神经信息处理系统进展16（2003）
[7] 贾达夫，D.V。；Holambe，R.S.：基于Radon和离散余弦变换的人脸识别特征提取和降维方法，《信号处理》88，第10期，2604-2609（2008年10月）·Zbl 1151.94327号 ·doi:10.1016/j.sigpro.2008.04.017
[8] Jolliffe，I.T.：主成分分析（2002）·Zbl 1011.62064号
[9] Phillips，P.J。；月亮，H。；Rizvi，S.A。；Rauss，P.J.：人脸识别算法的FERET评估方法，IEEE模式分析和机器智能事务22，第10期，1090-1104（2000）
[10] Rosenberg，S.：黎曼流形上的拉普拉斯算子（1997）
[11] 斯特拉森：高斯消去法不是最优的，数值。math.ische Mathematik 13（1969）·Zbl 0185.40101号 ·doi:10.1007/BF02165411
[12] 肖，B。；高，X。；陶，D。；Li，X.：通过照片中的草图进行人脸识别的新方法，《信号处理》89，第8期，1576-1588（2009年8月）·Zbl 1178.94033号 ·doi:10.1016/j.sigpro.2009.02.008
[13] J.Ye，最小二乘线性判别分析，平方线性判别分析，载于：第二十四届国际机器学习会议，2007年。
[14] W.Zuo，H.Zhang，D.Zhang，K.Wang，人脸和掌纹识别的后处理LDA：原理是什么，信号处理2009·Zbl 1194.94166号
[15] 蔡德华，何晓霞，正交局部保持索引。，2005年第28届国际ACM SIGIR年会。
[16] 张，T。；陶，D。；李，X。；Yang，J.：面向降维的补丁对齐，IEEE知识与数据工程事务21，第9期，1299-1313（2009）
[17] 陶，D。；李，X。；吴，X。；Maybank，S.J.：子空间选择的几何平均值，IEEE模式分析和机器智能事务31，第2期，260-274（2009）
[18] W.Liu，D.Tao，J.Liu，传导性成分分析，摘自：IEEE国际数据挖掘会议，2008年，第433-442页。
[19] 陶，D。；李，X。；吴，X。；Maybank，S.J.：步态识别的一般张量判别分析和Gabor特征，IEEE模式分析和机器智能事务29，第10期，1700-1715（2007）
[20] 卞伟，陶德华，子空间选择的调和平均，载：IEEE模式识别国际会议，2008年，第1-4页。
[21] 陶，D。；李，X。；吴，X。；胡，W。；Maybank，S.J.：监督张量学习，知识和信息系统13，No.1，1-42（2007）
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。