×
韩希轩;克莱门森，Line

正则化广义特征分解及其在稀疏监督特征提取和稀疏判别分析中的应用。 （英文） Zbl 1394.68289号

模式识别 49, 43-54 (2016).
摘要：我们提出了一种获得广义特征值问题稀疏解的通用方法，称之为正则化广义特征分解（RGED）。几十年来，Fisher判别准则被应用于监督特征提取和判别分析，并被表示为广义特征值问题。因此，RGED可以有效地提取稀疏特征，并计算基于Fisher判别准则模型的所有变体的稀疏判别方向。特别地，RGED可以应用于基于矩阵甚至基于张量的判别技术，例如2D线性判别分析（2D-LDA）。在此基础上，提出了一种基于交替方向乘子法的迭代算法。该算法近似求解RGED，具有单调递减的收敛性，并且对于中等精度的结果，其速度可以接受。基于不同类型图像的四个数据集的数值实验表明，RGED与现有的多维稀疏判别分析技术相比，具有竞争性的分类性能。

引用于1审查
引用于6文件

MSC公司：

68T05型 人工智能中的学习和自适应系统
62H30型 分类和区分；聚类分析（统计方面）
2015财年65 矩阵特征值和特征向量的数值计算
65英尺50英寸 稀疏矩阵的计算方法

关键词：

稀疏判别分析;稀疏监督特征提取;稀疏2D-LDA;稀疏3D-LDA;正则化广义特征分解

软件：

CIFAR公司;处罚LDA;线圈-20
PDF格式BibTeX公司 XML格式引用
\textit{X.Han}和\textit{L.Clemmensen}，模式识别49，43-54（2016；Zbl 1394.68289）
全文： 内政部

参考文献：

[1] Mai，Q.，《高维判别分析综述》，威利跨学科出版社。版本：计算。统计，5，3，190-197，（2013）
[2] 博伊德，S。；北卡罗来纳州帕里赫。；朱，E。；佩莱托，B。；Eckstein，J.，《通过交替方向乘数法进行分布式优化和统计学习》，Found。趋势马赫数。学习。，3, 1, 1-122, (2011) ·Zbl 1229.90122号
[3] 韩，X。；Clemmensen，L.，关于加权支持向量回归，Qual。Reliab公司。《国际工程》，30891-903，（2014）
[4] 杨，J。；Z.Jin。；Yang，J.-y。；张，D。；Frangi，A.F.，核Fisher判别式kpca加lda的本质，模式识别。，37, 10, 2097-2100, (2004)
[5] 卢，J。；Plataniotis，K.N。；Venetsanopoulos，A.N。；王杰，一种有效的核判别分析方法，模式识别。，1788-1790年10月38日，（2005年）·Zbl 1077.68804号
[6] Hoffmann，H.，新颖性检测的核主成分分析，模式识别。，40, 3, 863-874, (2007) ·Zbl 1118.68140号
[7] 朱，X。；黄，Z。；沈洪涛。；Cheng，J。；Xu，C.，混合核典型相关分析降维，模式识别。，45, 8, 3003-3016, (2012) ·Zbl 1236.68212号
[8] H.Zou，T.Hastie，R.Tibshirani，稀疏主成分分析，J.计算。图表。《统计》第15（2）（2006）265-286页。
[9] 克莱门森，L。；哈斯蒂，T。；维滕，D。；Ersböll，B.，稀疏判别分析，技术计量学，53，4，406-413，（2011）
[10] 邵，J。；Wang，Y。；邓，X。；Wang，S.，高维数据阈值稀疏线性判别分析，Ann.Stat.，39，2，1241-1265，（2011）·Zbl 1215.62062号
[11] J.Ye，R.Janardan，Q.Li，二维线性判别分析，《神经信息处理系统的进展》，2004年，第1569-1576页。
[12] 高Q.-X。；Xu，H。；李玉英。；Xie，D.-Y.，二维监督局部相似性和多样性投影，模式识别。，43, 10, 3359-3363, (2010) ·Zbl 1209.68415号
[13] Weiwei，Y.，用于人脸识别的二维判别局部保持投影，模式识别。莱特。，30, 15, 1378-1383, (2009)
[14] 吴先生。；张，L。；王，Z。；哥伦比亚特区克里斯蒂安尼。；Lin，X.，基因集/通路和基因选择重要性同时测试的稀疏线性判别分析，生物信息学，25，9，1145-1151，（2009）
[15] 蔡，T。；刘伟，《稀疏线性判别分析的直接估计方法》，美国统计学会，106，496，1566-1577，（2011）·Zbl 1233.62129号
[16] B.K.Sriperumbudur，D.A.Torres，G.R.Lanckriet，《基于dc编程的稀疏特征方法》，收录于：第24届国际机器学习会议论文集，美国俄勒冈州科瓦利斯ACM，2007年，第831-838页。
[17] Witten，D.M。；Tibshirani，R.，使用fisher线性判别法进行惩罚分类，J.R.Stat.Soc.Ser。B： 统计方法。，73, 5, 753-772, (2011) ·Zbl 1228.62079号
[18] 乔，Z.L。；Huang，J.Z.，稀疏线性判别分析及其在高维低样本数据中的应用，IAENG Int.J.Appl。数学。，39, 1, 48-60, (2009) ·Zbl 1229.62086号
[19] 哈斯蒂，T。；Buja，A。；Tibshirani，R.，《惩罚判别分析》，《Ann.Stat.》，73-102，（1995）·Zbl 0821.62031号
[20] Fukunaga，K.，《统计模式识别导论》（2013），美国加州圣地亚哥学术出版社
[21] 宋贵，W。；米西娅，W。；钟震，J.，矩阵不等式，（2006），北京科学出版社，中国
[22] H.Wang，S.Yan，D.Xu，X.Tang，T.Huang，用于降维的跟踪比率与比率跟踪，收录于：2007年IEEE计算机视觉和模式识别会议，CVPR­07，IEEE，2007年，第1-8页。
[23] 贾毅。；聂，F。；Zhang，C.，跟踪比问题重访，IEEE Trans。神经网络。，20, 4, 729-735, (2009)
[24] 沈，H。；Huang，J.Z.，通过正则化低秩矩阵近似进行稀疏主成分分析，J.Multivar。分析。，99, 6, 1015-1034, (2008) ·Zbl 1141.62049号
[25] Campbell，N.A.，判别和正则变量分析中的Shrunken估计量，应用。统计，5-24，（1980）·Zbl 0454.62053号
[26] 郑维生。；赖，J.-H。；Li，S.Z.，1d-lda vs.2d-lda，基于向量的线性判别分析优于基于矩阵的模式识别。，41, 7, 2156-2172, (2008) ·Zbl 1138.68051号
[27] Liang，Z。；李毅。；Shi，P.，关于二维线性判别分析的注释，模式识别。莱特。，29, 16, 2122-2128, (2008)
[28] Chen，L.-F。；廖洪云。；Ko，M.-T。；林，J.-C。；Yu，G.-J.，一种新的基于lda的人脸识别系统，可以解决小样本问题，模式识别。，33, 10, 1713-1726, (2000)
[29] Goldstein，T。；OéDonoghue，B。；塞泽尔，S。；Baraniuk，R.，《快速交替方向优化方法》，SIAM J.成像科学。，7, 3, 1588-1623, (2014) ·Zbl 1314.49019号
[30] A.Krizhevsky，G.Hinton，《从微小图像中学习多层特征》，多伦多大学计算机科学系，《技术报告》，第1卷（4），2009年，第7页。
[31] S.A.Nene，S.K.Nayar，H.Murase等人，哥伦比亚物体图像库（coin-20），技术报告CUCS-005-961996。
[32] M.Diem、S.Fiel、A.Garz、M.Keglevic、F.Kleber、R.Sablatnig，2013年国际手写数字识别竞赛（hdrc 2013），收录于：2013年第12届国际文档分析与识别会议（Icdar），IEEE，2013年，第1422-1427页。
[33] F.S.Samaria，A.C.Harter，人脸识别随机模型的参数化，1994年IEEE计算机视觉应用研讨会论文集，IEEE，1994年，第138-142页。
[34] 埃夫隆，B。；哈斯蒂，T。；约翰斯通，I。；Tibshirani，R.，《最小角度回归》，《Ann.Stat.》，32，2，407-499，（2004）·Zbl 1091.62054号
[35] 朱，H。；Giannakis，G.B。；Cano，A.，《分布式网络内信道解码》，IEEE Trans。信号处理。，57, 10, 3970-3983, (2009) ·Zbl 1391.94652号
[36] 宋，X。；杨，X。；杨，J。；吴，X。；Zheng，Y.，使用模糊四重子空间模型的判别分析方法，神经计算，73，10225-2265，（2010）
[37] 杉山，M。；Ide，T。；南岛中岛。；Sese，J.，《降维的半监督局部Fisher判别分析》，马赫。学习。，78, 1-2, 35-61, (2010) ·Zbl 1470.68180号
[38] Sharma，A。；Paliwal，K.K.，零线性判别分析方法的新视角及其使用随机矩阵与散布矩阵相乘的快速实现，模式识别。，45, 6, 2205-2213, (2012) ·Zbl 1234.62100号
[39] 张晓军，聂飞平，王森，杨毅，周晓芳，张成琦，双线性分析的复合秩k预测，〈arXiv:1411.6231〉。
[40] D.Cai，X.He，J.Han，半监督判别分析，载于：2007年第11届国际计算机视觉会议，ICCV 2007，IEEE，2007，第1-7页。
[41] X.赵。；李，X。；庞，C。；Wang，S.，基于全局约束的半监督判别分析的人类行为识别，神经计算，105，45-50，（2013）
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。