×

带特征选择的感应矩阵完成。 (英语。俄文原件) Zbl 1476.62105号

计算。数学。数学。物理学。 61,第5期,719-732(2021); Zh的翻译。维奇斯。Mat.Mat.Fiz公司。61,第5期,744-758(2021)。
摘要:我们考虑归纳矩阵补全问题,即利用矩阵行和列的侧面特征重建矩阵。然而,在许多应用中,这类副信息包括冗余或无信息的特征,因此需要选择特征。提出了一种基于矩阵分解和对边特征系数进行群Lasso正则化的方法,该方法将特征选择与矩阵完成相结合。证明了该方法的理论样本复杂度低于无稀疏化方法。提出了一种用于同时完成矩阵补全和特征选择的计算效率高的迭代过程。在合成数据和真实数据上的实验表明,由于特征选择过程,该方法优于其他方法。

MSC公司:

62甲12 多元分析中的估计
62J07型 岭回归;收缩估计器(拉索)
62-08 统计问题的计算方法
65平方英尺 线性系统和矩阵反演的直接数值方法
15A24号 矩阵方程和恒等式
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] J.D.M.Rennie和N.Srebro,“协作预测的快速最大边际矩阵分解”,《第22届机器学习国际会议论文集》(2005年),第713-719页。
[2] Koren,Y。;贝尔·R。;Volinsky,C.,推荐系统的矩阵分解技术,计算机,42,30-37(2009)·doi:10.1109/MC.2009.263
[3] J.Yi、T.Yang、R.Jin、A.K.Jain和M.Mahdavi,“通过矩阵补全实现稳健集成聚类”,2012年IEEE第十二届国际数据挖掘会议(2012年),第1176-1181页。
[4] Argyriou,A。;Evgeniou,T。;Pontil,M.,Convex多任务特征学习,马赫。学习。,73, 243-272 (2008) ·Zbl 1470.68073号 ·doi:10.1007/s10994-007-5040-8
[5] R.S.Cabral、F.Torre、J.P.Costeira和A.Bernardino,“多标签图像分类的矩阵完成”,《神经信息处理系统进展》(2011),第190-198页。
[6] Z.Weng和X.Wang,“阵列信号处理的低秩矩阵补全”,2012年IEEE国际声学、语音和信号处理会议(ICASSP)(2012),第2697-2700页。
[7] 陈,P。;Suter,D.,《恢复大噪声低秩矩阵中缺失的分量:SFM的应用》,IEEE Trans。模式分析。机器。智力。,26, 1051-1063 (2004) ·doi:10.1109/TPAMI.2004.52
[8] 坎迪斯,E.J。;Recht,B.,通过凸优化实现精确矩阵补全,Found。计算。数学。,9, 717-772 (2009) ·Zbl 1219.90124号 ·doi:10.1007/s10208-009-9045-5
[9] 坎迪斯,E.J。;Tao,T.,凸松弛的威力:近最优矩阵完成,IEEE Trans。《信息论》,56,2053-2080(2010)·Zbl 1366.15021号 ·doi:10.1109/TIT.2010.2044061
[10] O.沙米尔。;Shalev-Shwartz,S.,《跟踪规范的矩阵完成:学习、边界和转换》,J.Mach。学习。第15号决议,3401-3423(2014年)·Zbl 1318.68152号
[11] J.Hannon、M.Bennett和B.Smyth,“使用内容和协作过滤方法推荐推特用户”,《第四届ACM推荐系统会议论文集》(2010年),第199-206页。
[12] M.Xu、R.Jin和Z.-H.Zhou,“带副信息的加速矩阵完成:多标记学习的应用”,《神经信息处理系统进展》(2013),第2301-2309页。
[13] Natarajan,N。;Dhillon,I.S.,《用于预测基因疾病相关性的归纳矩阵补全》,生物信息学,30,i60-i68(2014)·doi:10.1093/bioinformatics/btu269
[14] K.-Y.Chiang、C.-J.Hsieh和I.S.Dhillon,“带噪声侧信息的矩阵完成”,《第28届神经信息处理系统国际会议论文集》(2015),第2卷,第3447-3455页。
[15] S.Si、K.-Y.Chiang、C.-J.Hsieh、N.Rao和I.S.Dhillon,“目标导向归纳矩阵完成”,第22届ACM SIGKDD国际知识发现和数据挖掘会议论文集(2016),第1165-1174页。
[16] 卢,J。;梁,G。;Sun,J。;Bi,J.,带边信息的矩阵补全稀疏交互模型,神经信息处理系统进展,29,4071-4079(2016)
[17] 郭彦宏,“凸共嵌入用于矩阵补全和预测侧信息”,《第三十届AAAI人工智能会议论文集》(AAAI-17)(2017),第1955-1961页。
[18] X.Zhang,S.Du,和Q.Gu,“通过多相Procrustes流快速高效地完成归纳矩阵”,第35届机器学习国际会议论文集(2018),第5756-5765页。
[19] A.Soni、T.Chevalier和S.Jain,“稀疏因子模型下的噪声归纳矩阵完成”,2017 IEEE实习生。信息理论研讨会(ISIT)(2017年),第2990-2994页。
[20] P.Jain、P.Netrapali和S.Sanghavi,“使用交替最小化的低秩矩阵完成”,《美国计算机学会计算理论第45届年度研讨会论文集》(2013),第665-674页·Zbl 1293.65073号
[21] Q.Berthet和N.Baldin,“图形逻辑回归中的统计和计算率”,《国际人工智能和统计会议》(2020年),第2719-2730页。
[22] Bertsekas,D.P。;Tsitsiklis,J.N.,《并行和分布式计算:数值方法》(1989),《恩格尔伍德悬崖:普伦蒂斯·霍尔》,恩格尔伍德崖·Zbl 0743.65107号
[23] 博伊德,S。;北卡罗来纳州帕里赫。;朱,E。;佩莱托,B。;Eckstein,J.,《通过交替方向乘数法进行分布式优化和统计学习》,Found。趋势马赫数。学习。,3, 1-122 (2011) ·Zbl 1229.90122号 ·doi:101561/2200000016
[24] Maurer,A。;Pontil,M.,《结构化稀疏性和泛化》,J.Mach。学习。决议,第13号,第671-690页(2012年)·Zbl 1283.62086号
[25] Bartlett,P.L。;Mendelson,S.,Rademacher和Gaussian复杂性:风险边界和结构结果,J.Mach。学习。决议,3463-482(2002)·Zbl 1084.68549号
[26] 莫赫里,M。;罗斯塔米扎德,A。;Talwalkar,A.,《机器学习基础》(2012),美国:麻省理工学院出版社,美国·Zbl 1318.68003号
[27] 格洛温斯基,R。;Marroco,A.,Sur l’A approximation,paréments finishs d’ordre un,et la résolution,parñnalisation:Dualitéd'une class de problemes de Dirichlet nonкirs,ESAIM:数学。模型。数字。分析。,9, 41-76 (1975) ·Zbl 0368.65053号
[28] 加贝,D。;Mercier,B.,通过有限元近似解非线性变分问题的对偶算法,计算。数学。申请。,2, 17-40 (1976) ·Zbl 0352.65034号 ·doi:10.1016/0898-1221(76)90003-1
[29] Gabay,D.,《增广拉格朗日方法:在边值问题数值解中的应用》(1983),阿姆斯特丹:荷兰北部·Zbl 0525.65045号
[30] 埃克斯坦,J。;Bertsekas,D.P.,关于最大单调算子的Douglas-Rachford分裂方法和近点算法,数学。程序。,55, 293-318 (1992) ·Zbl 0765.90073号 ·doi:10.1007/BF01581204
[31] H.-F.Yu、P.Jain、P.Kar和I.S.Dhillon,“标签缺失的大规模多标签学习”,《第31届机器学习国际会议论文集》(2014),第593-601页。
[32] Lin,C.-J。;翁,R.C。;Keerthi,S.S.,逻辑回归的信赖域牛顿法,J.Mach。学习。第9627-650号决议(2008年)·Zbl 1225.68195号
[33] 西蒙,N。;弗里德曼,J。;哈斯蒂,T。;Tibshirani,R.,《稀疏群套索》,J.Compute。图解的。统计,22,231-245(2013)·doi:10.1080/106186002012.681250
[34] Chang,C.-C。;Lin,C.-J.,LIBSVM:支持向量机库,ACM Trans。因特尔。系统。技术。,2, 1-27 (2011) ·数字对象标识代码:10.1145/1961189.1961199
[35] 法哈特,M.R。;夏皮罗,B.J。;Kieser,K.J.,《基因组分析确定耐药结核分枝杆菌聚合阳性选择的靶点》,《自然遗传学》。,45, 1183-1189 (2013) ·doi:10.1038/ng.2747
[36] Walker,T.M。;科尔,T.A。;Omar,S.V.,《预测结核分枝杆菌药物敏感性和耐药性的全基因组测序:一项回顾性队列研究》,《柳叶刀感染》。数字化信息系统。申请。,15, 1193-1202 (2015) ·doi:10.1016/S1473-3099(15)00062-6
[37] 潘克赫斯特,L.J。;Elias,C。;Votinseva,A.A.,《利用全基因组测序进行快速、全面和经济的分枝杆菌诊断:一项前瞻性研究》,《柳叶刀呼吸》。医学,449-58(2016)·doi:10.1016/S2213-2600(15)00466-X
[38] 科尔·F。;Phelan,J。;Hill-Cawthorne,G.A.,多重和广泛耐药结核分枝杆菌的全基因组分析,国家遗传学。,50, 307-316 (2018) ·doi:10.1038/s41588-017-0029-0
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。