×

多响应误差变量回归中基于非凸优化方法的低秩矩阵估计。 (英语) Zbl 1532.90085

摘要:在生物信息学、经济学和遥感等实际应用中,无法避免嘈杂和缺失的数据。现有的方法主要关注线性误差-变量回归,而对多元响应的情况则相对较少关注,如何在损坏的协变量下实现一致估计仍是一个悬而未决的问题。针对多响应误差-变量回归模型中的矩阵估计问题,提出了一种非凸误差修正估计。分析了估计量整体解的统计和计算性质。在统计方面,建立了非凸估计的所有全局解的非共振恢复界。在计算方面,应用近端梯度法求解非凸优化问题,并证明其线性收敛到近全局解。通过随机矩阵分析,验证了充分条件,以获得特定类型测量误差的概率结果。最后,对合成和真实神经成像数据的仿真结果验证了理论性质,并在高维尺度下显示出良好的一致性。

MSC公司:

90C26型 非凸规划,全局优化
62甲12 多元分析中的估计
65层55 低阶矩阵逼近的数值方法;矩阵压缩
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] 阿加瓦尔,A。;内加班,S。;Wainwright,MJ,用于高维统计恢复的梯度方法的快速全局收敛,Ann.Stat.,40,52452-2482(2012)·Zbl 1373.62244号 ·doi:10.1214/12-AOS1032
[2] 阿加瓦尔,A。;内加班,S。;Wainwright,MJ,《通过凸松弛进行噪声矩阵分解:高维中的最佳速率》,《Ann.Stat.》,40,2,1171-1197(2012)·Zbl 1274.62219号 ·doi:10.1214/12-AOS1000
[3] Agarwal,A.、Negahban,S.N.、Wainwright,M.J.:补充材料:用于高维统计恢复的梯度方法的快速全局收敛。Ann.Stat.40(5),31-60(2012)·Zbl 1373.62244号
[4] Alquier,P.、Bertin,K.、Doukhan,P.和Garnier,R.:具有低秩转移的高维变量。统计计算。1-15 (2020) ·Zbl 1448.62130号
[5] Annaliza,M。;哈利利,A。;DA斯蒂芬斯,《用集线器估计稀疏网络》,J.Multivar。分析。,179, 104655 (2020) ·Zbl 1454.62181号 ·doi:10.1016/j.jmva.2020.104655
[6] Barch,D.M.,Burgess,G.C.,Harms,M.P.,Petersen,S.E.,Consortium,W.M.H.:人类连接体中的功能:任务磁共振成像和个体行为差异。《神经影像》80(8),169-189(2013)
[7] 贝洛尼,A。;罗森鲍姆,M。;Tsybakov,AB,An(\ell_1,\ell_2,\ell_\infty)-高维误差-变量模型的正则化方法,Electron。J.Stat.,10,2,1729-1750(2016)·Zbl 1397.62246号 ·doi:10.1214/15-EJS1095
[8] 贝洛尼,A。;罗森鲍姆,M。;Tsybakov,AB,《高维误差变量模型中的线性和二次规划估值器》,J.R.Stat.Soc.Ser。B统计方法。,79, 3, 939-956 (2017) ·Zbl 1411.62180号 ·doi:10.1111/rssb.12196
[9] Bickel,P.J.,Ritov,Y.:变量误差模型的有效估计。Ann.Stat.513-540(1987年)·Zbl 0643.62029号
[10] 伯尔曼,P。;Van De Geer,S.,《高维数据统计:方法、理论和应用》(2011),柏林:施普林格出版社,柏林·Zbl 1273.62015年 ·doi:10.1007/978-3-642-20192-9
[11] 加内斯,EJ;Tao,T.,《Dantzig选择器:当(p)远大于(n)时的统计估计》,《Ann.Stat.》,35,6,2313-2351(2007)·Zbl 1139.62019号
[12] 坎迪斯,EJ;Tao,T.,凸松弛的威力:近最优矩阵完成,IEEE Trans。《信息论》,56,5,2053-2080(2010)·Zbl 1366.15021号 ·doi:10.1109/TIT.2010.2044061
[13] 卡罗尔,RJ;Ruppert,D。;路易斯安那州斯特凡斯基;Crainiceanu,CM,非线性模型中的测量误差:现代视角(2006),剑桥:CRC出版社,剑桥·Zbl 1119.62063号 ·doi:10.1201/978142001138
[14] 陈,H。;Raskutti,G。;袁,M.,广义低秩张量回归的非凸投影梯度下降,J.Mach。学习。决议,20,1-37(2019)·Zbl 1483.62091号
[15] 陈,Y。;罗,Z。;Kong,LC,《多元广义线性模型的基于(ell_{2,0})范数的选择和估计》,J.Multivar。分析。,185 (2021) ·Zbl 1476.62106号 ·doi:10.1016/j.jmva.2021.104782
[16] Datta,A。;Zou,H.,CoCoLasso,用于高维变量误差回归,Ann.Stat.,45,6,2400-2426(2017)·Zbl 1486.62210号 ·doi:10.1214/16-AOS1527
[17] 韩,RG;Willett,R。;Zhang,AR,广义张量估计的最佳统计和计算框架,Ann.Stat.,1,50,1-29(2022)·Zbl 1486.62161号
[18] 艾森曼,A.J.:现代多元统计技术。回归、分类和流形学习。柏林施普林格出版社(2008)·Zbl 1155.62040号
[19] Li,我的;李,RZ;Ma,YY,高维线性测量误差模型中的推断,J.Multivar。分析。,184 (2021) ·兹比尔1472.62112 ·doi:10.1016/j.jmva.2021.104759
[20] 李,X。;Wu,DY;崔,Y。;刘,B。;沃尔特·H。;舒曼,G。;Li,C。;蒋,TZ,在超高维全基因组关联研究中使用稀疏正则化进行可靠遗传力估计,BMC生物信息。,20, 1, 219 (2019) ·doi:10.1186/s12859-019-2792-7
[21] 李,X。;Wu,DY;Li,C。;王建华;Yao,JC,球上非凸正则M-估计的稀疏恢复,计算。统计数据分析。,152(2020)·Zbl 1510.62063号 ·doi:10.1016/j.csda.2020.107047
[22] 卢,波兰;MJ Wainwright,《含噪声和缺失数据的高维回归:非凸性的可证明保证》,《Ann.Stat.》,第40、3、1637-1664页(2012年)·Zbl 1257.62063号 ·doi:10.1214/12-AOS1018
[23] Loh,P.L.,Wainwright,M.J.:补充材料:含噪声和缺失数据的高维回归:具有非凸性的可证明保证。Ann.Stat.40(3),1-21(2012)·Zbl 1257.62063号
[24] 卢,波兰;Wainwright,MJ,《带非凸性的正则M-估计量:局部最优的统计和算法理论》,J.Mach。学习。第16号、第1号、第559-616号决议(2015年)·Zbl 1360.62276号
[25] Negahban,S.,Wainwright,M.J.:具有噪声和高维缩放的(近)低秩矩阵的估计。《Ann.Stat.1069-1097》(2011年)·Zbl 1216.62090号
[26] 内加班,S。;Wainwright,MJ,《受限强凸性和加权矩阵完备:带噪声的最优界》,J.Mach。学习。第13号、第1号、第1665-1697号决议(2012年)·Zbl 1436.62204号
[27] Nesterov,Y.:最小化复合目标函数的梯度方法。卢万天主教大学运营研究和计量经济中心(CORE)技术代表(2007年)
[28] 拉斯库蒂,G。;袁,M。;Chen,H.,高维多响应张量回归的凸正则化,Ann.Stat.,47,3,1554-1584(2019)·Zbl 1428.62324号 ·doi:10.1214/18-AOS1725
[29] 雷奇特,B。;法泽尔,M。;Parrilo,PA,通过核范数最小化保证线性矩阵方程的最小秩解,SIAM Rev.,52,3,471-501(2010)·Zbl 1198.90321号 ·数字对象标识代码:10.1137/070697835
[30] 罗森鲍姆,M。;Tsybakov,AB,矩阵不确定性下的稀疏恢复,《Ann.Stat.》,38,5,2620-2651(2010)·Zbl 1373.62357号 ·doi:10.1214/10-AOS793
[31] Rosenbaum,M.,Tsybakov,A.B.:改进的矩阵不确定性选择器。摘自:《从概率到统计再回来:高维模型和过程——纪念乔恩·威尔纳的节日》,第276-290页。数理统计研究所(2013)·Zbl 1327.62410号
[32] 瑟伦森。;弗里吉斯,A。;Thoresen,M.,《LASSO中的测量误差:影响和似然偏差修正》,《Stat.Sinica》,第25期,第809-829页(2015年)·Zbl 06503822号
[33] 瑟伦森。;赫尔顿,KH;弗里吉斯,A。;Thoresen,M.,具有测量误差的高维广义线性模型中的协变量选择,J.Compute。图表。Stat.,27,4,739-749(2018)·Zbl 07498987号 ·doi:10.1080/10618600.2018.1425626
[34] MJ Wainwright,《高维统计:非症状观点》(2019),剑桥:剑桥大学出版社,剑桥·Zbl 1457.62011年
[35] 王,Z。;帕特里尼,S。;高,FC;Yang,YH,稀疏壳上的自适应极小极大回归估计,J.Mach。学习。第15号、第1号、第1675-1711号决议(2014年)·Zbl 1319.62016号
[36] Wu,D.Y.,Li,X.,Feng,J.:基于连接素的个体认知行为预测通过图形传播网络揭示了定向脑网络拓扑。《神经工程学杂志》18(4)(2021)
[37] Wu,J.,Zheng,Z.M.,Li,Y.,Zhang,Y.:多响应变量误差回归的可扩展解释学习。J.多变量。分析。104644 (2020) ·Zbl 1448.62079号
[38] 周,H。;李,L。;Zhu,HT,张量回归及其在神经成像数据分析中的应用,J.Am.Stat.Assoc.,502108540-552(2013)·Zbl 06195959号 ·doi:10.1080/01621459.2013.776499
[39] 周,H。;Li,LX,正则化矩阵回归,J.R.Stat.Soc.Ser。《美国统计年鉴》。,76, 2, 463-483 (2014) ·Zbl 07555458号 ·doi:10.1111/rssb.12031
此参考列表基于出版商或数字数学图书馆提供的信息。它的项目与zbMATH标识符启发式匹配,并且可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。