×

正交典型相关分析及其应用。 (英语) Zbl 1455.65059号

摘要:典型相关性分析(CCA)是线性降维技术的基石,该技术联合映射两个数据集以实现最大相关性。CCA已广泛用于捕获感兴趣的数据特征的应用程序中。本文建立了一个范围约束正交CCA(OCCA)模型及其变体,并将其应用于实际应用中数据集的三个数据分析任务,即无监督特征融合、多目标回归和多标签分类。数值实验表明,与传统的CCA相比,OCCA及其变体具有更高的精度。

MSC公司:

2015财年65 矩阵特征值和特征向量的数值计算
15甲18 特征值、奇异值和特征向量
65千5 数值数学规划方法
90 C90 数学规划的应用
PDF格式BibTeX公司 XML格式引用
全文: DOI程序

参考文献:

[1] Absil,P.-A.公司。;Mahony,R。;Sepulchre,R.,《矩阵流形上的优化算法》(2008),普林斯顿大学出版社:普林斯顿大学出版,新泽西州普林斯顿·Zbl 1147.65043号
[2] Bai,Z。;德梅尔,J。;Dongarra,J。;Ruhe,A。;van der Vorst,H.,《代数特征值问题求解模板:实用指南》(2000),SIAM:SIAM,宾夕法尼亚州费城·Zbl 0965.65058号
[3] 朱,D。;Liao,L。;Ng,M.K。;Zhang,X.,稀疏典型相关分析:新公式和算法,IEEE Trans。模式分析。马赫。智力。,35, 12, 3050-3065 (2013) ·doi:10.1109/TPAMI.2013.104
[4] Cortes,C.和Mohri,M.,《AUC优化与错误率最小化》,摘自《神经信息处理系统进展》16,S.Thrun,L.K.Saul和B.Scholkopf,编辑,2004年,第313-320页。
[5] 坎宁安,J.P。;Ghahramani,Z.,《线性降维:调查、见解和概括》,J.Mach。学习研究,16,2859-2900(2015)·Zbl 1351.62123号
[6] Dembszynski,K.、Waegeman,W.、Cheng,W.和Hüllermier,E.,多标签分类中的标签依赖性,LastCFP:ICML从多标签数据学习研讨会,根特大学,KERMIT,应用数学、生物统计学和过程控制系,2010年。
[7] Džeroski,S。;德姆沙尔,D。;Grbović,J.,从生物指示剂数据预测河流水质的化学参数,应用。智力。,13, 1, 7-17 (2000) ·doi:10.1023/A:1008323212047
[8] Edelman,A。;阿里亚斯,T.A。;Smith,S.T.,《正交约束算法的几何》,SIAM J.矩阵分析。申请。,20, 2, 303-353 (1999) ·Zbl 0928.6500号 ·doi:10.1137/S089547989529290954
[9] 风机,R.-E。;Chang,K.-W。;谢长杰。;王,X.-R。;Lin,C.-J.,Liblinear:大型线性分类库,J.Mach。学习。1871-1874年8月9日决议(2008年)·Zbl 1225.68175号
[10] 高,B。;刘,X。;陈晓杰。;Yuan,Y.,一种新的正交约束优化问题一阶算法框架,SIAM J.Optim。,28,1302-332(2018)·Zbl 1382.65171号 ·doi:10.1137/16M1098759
[11] 高,B。;刘,X。;Yuan,Y.,正交性约束优化问题的一阶算法,Oper。Res.事务处理。,21, 4, 57-68 (2017) ·兹比尔1399.65130
[12] Golub,G.H。;Van Loan,C.F.,《矩阵计算》(2013),约翰霍普金斯大学出版社:约翰霍普金大学出版社,马里兰州巴尔的摩·Zbl 1268.65037号
[13] Hardoon,D.R。;塞德马克,S。;Shawe-Taylor,J.,典型相关分析:学习方法应用概述,神经计算。,16, 12, 2639-2664 (2004) ·Zbl 1062.68134号 ·doi:10.1162/0899766042321814
[14] Hariharan,B.、Zelnik-Manor,L.、Varma,M.和Vishwanathan,S.,《大规模最大边缘多标签分类与先验知识》,载于《第27届机器学习国际会议论文集》,J.Fürnkranz和T.Joachims,eds.,Omnipress,Madison,WI,2010年,第423-430页。
[15] Hatzikos,E。;Tsoumakas,G。;Tzanisand,G。;北巴西利亚德斯。;Vlahavas,I.,《海水质量预测实证研究》,Knowl。基于系统。,21, 6, 471-478 (2008) ·doi:10.1016/j.knosys.2008.03.005
[16] Hotelling,H.,两组变量之间的关系,生物统计学,28,3-4,321-377(1936)·Zbl 0015.40705号 ·doi:10.1093/biomet/28.3-4.321
[17] 胡,J。;Milzarek,A。;Wen,Z。;Yuan,Y.,黎曼优化的自适应二次正则化牛顿法,SIAM J.矩阵分析。申请。,39, 1181-1207 (2018) ·Zbl 1415.65139号 ·doi:10.1137/17M1142478
[18] 江,B。;Dai,Y.-H.,一种用于stiefel流形优化的约束保持更新方案框架,数学。程序。,153, 535-575 (2015) ·Zbl 1325.49037号 ·doi:10.1007/s10107-014-0816-7
[19] 卡拉利奇,A。;Bratko,I.,一阶回归,马赫数。学习。,26, 2-3, 147-176 (1997) ·Zbl 0866.68089号 ·doi:10.1023/A:1007365207130
[20] Mackey,L.,稀疏PCA的通缩方法,摘自《神经信息处理系统进展》21,D.Koller,D.Schuurmans,Y.Bengio和L.Bottou,eds.,NIPS,2008年,第1017-1024页。
[21] Muirhead,R.J.,《多元统计理论的各个方面》(2005),威利:威利,纽约,纽约
[22] Nocedal,J。;Wright,S.,《数值优化》(2006),施普林格出版社,柏林·兹比尔1104.65059
[23] Rong,G.,Jin,C.,Kakade,S.,and Sidford,P.N.A.,《大规模广义特征向量计算和典型相关分析的高效算法》,载《第33届机器学习国际会议论文集》,M.Balcan and K.Weinberger,eds.,JMLR,2016年,第2741-2750页。
[24] Shen,X.,Sun,Q.和Yuan,Y.,正交正则相关分析及其在特征融合中的应用,载于第16届国际信息融合会议论文集,IEEE,伊斯坦布尔,2013,第151-157页。
[25] Spyromitros-Xioufis,E。;Tsoumakas,G。;格罗夫斯,W。;Vlahavas,I.,《通过输入空间扩展的多目标回归:将目标视为输入,马赫数》。学习。,104, 1, 55-98 (2016) ·Zbl 1454.68134号 ·doi:10.1007/s10994-016-5546-z
[26] Sun,L.,Ji,S.和Ye,J.,《典型相关分析的最小二乘公式》,载于《第25届国际机器学习会议论文集》,A.McCallum和S.Roweis编辑,美国计算机学会,纽约,2008年,第1024-1031页。
[27] 孙庆生。;曾世光。;刘,Y。;Heng,P.-A。;夏德胜,一种新的特征融合方法及其在图像识别中的应用,模式。认可。,38, 12, 2437-2448 (2005) ·doi:10.1016/j.patcog.2004年12月13日
[28] 孙,W。;Yuan,Y.,优化理论与方法(2006),Springer:Springer,柏林·邮编1129.90002
[29] Tsanas,A。;Xifara,A.,《使用统计机器学习工具对住宅建筑的能源性能进行准确定量估算》,《能源建筑》。,49, 560-567 (2012) ·doi:10.1016/j.enbuild.2012.03.003
[30] Wen,Z。;Yin,W.,一种具有正交约束的可行优化方法,数学。程序。,142, 1-2, 397-434 (2013) ·Zbl 1281.49030号 ·doi:10.1007/s10107-012-0584-1
[31] Yeh,I-C.,《使用二阶回归和人工神经网络模拟混凝土坍落度流动》,Cem。混凝土。组成。,29, 6, 474-480 (2007) ·doi:10.1016/j.cemconcomp.2007.02.001
[32] 张,L.-H。;Li,R.-C.,Stiefel流形上迹比之和的最大化,I:理论,科学。中国数学。,57, 12, 2495-2508 (2014) ·Zbl 1341.90128号 ·doi:10.1007/s11425-014-4824-0
[33] 张,L.-H。;Li,R.-C,Stiefel流形上迹比之和的最大化,II:计算,科学。中国数学。,58, 7, 1549-1566 (2015) ·兹比尔1384.90102 ·doi:10.1007/s11425-014-4825-z
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。