×

Schatten(p)-范数中多元多元线性回归的乘性扰动界。 (英语) Zbl 1467.15015号

通过将草图问题解释为乘法扰动,作者将多元多元线性回归(MLR)分析推广到一般Schatten范数的草图MMLR。他们根据相关子空间对草图矩阵(S)的作用进行了几何解释,并表明,如果(S)具有正交行或(S)保持秩,则评估草图MMLR解准确性的关键项可以解释为这些子空间之间最大主角的正切。此外,当S保持秩时,他们将这种解释推广到具有相同范围的正交投影和斜投影之间的算子范数差。它们的结果是P.J.马赫关于Schatten(p)-规范的工作[Filomat 21,No.1,99-111(2007;Zbl 1273.47003号)]以及J.T.Chi先生I.C.F.伊普森,线性代数应用。624, 87–102 (2021;Zbl 07355214号)]Schatten(p)-范数中的简略MMLR问题。

MSC公司:

15A60型 矩阵范数,数值范围,泛函分析在矩阵理论中的应用
15A09号 矩阵反演理论与广义逆
第15页第10页 广义逆的应用
15A45型 涉及矩阵的其他不等式
62H20个 关联度量(相关性、典型相关性等)
47A30型 线性算子的范数(不等式、多个范数等)
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] Ailon,N。;Chazelle,B.,《快速约翰逊-林登斯特劳斯变换和近似最近邻》,SIAM J.Sci。计算。,39, 302-322 (2009) ·Zbl 1185.68327号
[2] Avron,H。;Maymounkov,P。;托莱多,S.,Blendenpik:增压LAPACK的最小二乘解算器,SIAM J.Sci。计算。,32, 1217-1236 (2010) ·兹比尔1213.65069
[3] 布特西迪斯,C。;Drineas,P.,非负最小二乘问题的随机投影,线性代数应用。,431, 760-771 (2009) ·Zbl 1167.65032号
[4] 布雷曼,L。;Friedman,J.H.,在多元线性回归中预测多元反应,J.R.Stat.Soc.,Ser。B、 统计方法。,59, 3-54 (1997) ·Zbl 0897.62068号
[5] 布鲁斯特·J·J。;Marcia,R.F。;Petra,C.G.,斜投影矩阵的计算有效分解,SIAM J.矩阵分析。申请。,41, 852-870 (2020) ·Zbl 1461.65044号
[6] 坎迪斯,E.J。;Plan,Y.,Matrix completion with noise,程序。IEEE,98925-936(2010)
[7] 坎迪斯,E.J。;Recht,B.,通过凸优化实现精确矩阵补全,Found。计算。数学。,9, 717 (2009) ·Zbl 1219.90124号
[8] Chatterjee,S。;Hadi,A.S.,《影响性观察、高杠杆点和线性回归中的异常值》,《统计科学》。,1379-416(1986),讨论·Zbl 0633.62059号
[9] Chi,J.T。;Ipsen,I.C.F.,随机最小二乘回归模型和算法诱导不确定性的几何分析(2019)
[10] Chmieliñski,J.,《近似保持正交性的线性映射》,J.Math。分析。申请。,304, 158-169 (2005) ·Zbl 1090.46017号
[11] 德里尼亚斯,P。;马奥尼,M.W。;Muthukrishnan,S.,《(l_2)回归的抽样算法及其应用》,(第17届ACM-SIAM离散算法年会论文集(2006),ACM:ACM纽约),1127-1136·Zbl 1194.62010年
[12] 德里尼亚斯,P。;马奥尼,M.W。;Muthukrishnan,S。;Sarlós,T.,《快速最小二乘近似法》,数值。数学。,117, 219-249 (2011) ·Zbl 1218.65037号
[13] 德马奇,Z。;Saibaba,A.K.,《离散经验插值方法:加权内积空间中的规范结构和公式》,SIAM J.矩阵分析。申请。,39, 1152-1180 (2018) ·Zbl 1415.65107号
[14] 杜,H。;赵,Z。;王,S。;Hu,Q.,基于Schatten p-范数的二维判别分析用于图像特征提取,J.Vis。Commun公司。图像表示。,45, 87-94 (2017)
[15] 埃瓦齐安,M。;努罗萨纳,R。;Saghaei,A。;Amiri,A.,多元多元线性回归曲线的二期监测,Qual。Reliab公司。《工程国际》,27,281-296(2011)
[16] 韩,I。;Malioutov,D。;Avron,H。;Shin,J.,使用随机切比雪夫近似逼近大规模矩阵的谱和,SIAM J.Sci。计算。,39,A1558-A1585(2017)·Zbl 1372.65126号
[17] Hansen,P.C.,离散反问题的斜投影和标准形式变换,数值。线性代数应用。,20, 250-258 (2013) ·Zbl 1289.65097号
[18] Hnětynková,I。;普莱辛格,M。;Sima,D.M。;斯特拉科什,Z。;Van Huffel,S.,《(A X约B)中的总最小二乘问题:与经典著作关系的新分类》,SIAM J.Matrix Ana。申请。,32, 748-770 (2011) ·兹伯利1235.15016
[19] Hnětynková,I。;普莱辛格,M。;Strakoš,Z.,具有多个右手边的线性近似问题的核心问题,SIAM J.矩阵分析。申请。,34, 917-931 (2013) ·Zbl 1279.65041号
[20] 霍格林特区。;Welsch,R.E.,《回归和方差分析中的帽子矩阵》,《美国统计》,32,17-22(1978)·Zbl 0375.62070号
[21] 伊普森,I.C。;Wentworth,T.,相干性对正交柱矩阵采样的影响,预处理最小二乘问题,SIAM J.矩阵分析。申请。,35, 1490-1520 (2014) ·Zbl 1359.65063号
[22] Jeong,D.I。;St-Hilaire,A。;Ouarda,T.B。;Gachon,P.,结合多元多元线性回归和随机天气发生器的日降雨量多站点统计降尺度模型,Clim。变更,114567-591(2012)
[23] 约翰逊,C.R。;Horn,R.A.,《矩阵分析专题》(1985),剑桥大学出版社·Zbl 0576.15001号
[24] 北原,T。;Tsuchiya,T.,加权和分层最小二乘解的接近性,SIAM J.矩阵分析。申请。,31, 1172-1186 (2009) ·Zbl 1201.65062号
[25] Larsen,B.W。;Kolda,T.G.,低秩张量分解的实用杠杆抽样(2020),arXiv预印本
[26] Lefkimatis,S。;沃德,J.P。;Unser,M.,线性逆问题的Hessian-Schatten范数正则化,IEEE Trans。图像处理。,22, 1873-1888 (2013) ·Zbl 1373.94229号
[27] 李毅。;Nan,B。;Zhu,J.,具有任意群结构的多元多元线性回归的多元稀疏群Lasso,生物统计学,71,354-363(2015)·Zbl 1390.62285号
[28] 罗,L。;杨,J。;陈,J。;Gao,Y.,Schatten基于p范数的图像分类矩阵回归模型,(中国模式识别会议(2014),Springer),140-150
[29] 马,P。;马奥尼,M.W。;Yu,B.,《算法利用的统计观点》(2014年第31届国际机器学习会议论文集),I-91-I-99
[30] 马,P。;马奥尼,M.W。;Yu,B.,《算法杠杆的统计观点》,J.Mach。学习。第16861-911号决议(2015年)·Zbl 1337.62164号
[31] Maher,P.J.,关于广义逆的一些算子不等式,Ill.J.Math。,34, 503-514 (1990) ·Zbl 0733.47001号
[32] Maher,P.J.,关于广义逆的一些范数不等式,线性代数应用。,174, 99-110 (1992) ·Zbl 0761.15002号
[33] Maher,P.J.,关于广义逆的一些范数不等式,2,线性代数应用。,420, 517-525 (2007) ·Zbl 1108.47002号
[34] Maher,P.J.,关于广义逆的一些奇异值和酉不变范数不等式,Filomat,2199-111(2007)·Zbl 1273.47003号
[35] Mahoney,M.W.,矩阵和数据的随机算法,机器学习中的基础和趋势®,第3卷,123-224(2011)·Zbl 1232.68173号
[36] X孟。;桑德斯,医学硕士。;Mahoney,M.W.,LSRN:强超定或欠定系统的并行迭代求解器,SIAM J.Sci。计算。,36、C95-C118(2014)·Zbl 1298.65053号
[37] Mojškerc,B。;Turnšek,A.,赋范空间中近似保持正交性的映射,非线性分析。,理论方法应用。,73, 3821-3831 (2010) ·Zbl 1208.46016号
[38] 努罗萨纳,R。;埃瓦赞,M。;Amiri,A。;Mahmoud,M.A.,第一阶段多元多元线性回归曲线的统计监测与校准应用,Qual。Reliab公司。《国际工程》,26291-303(2010)
[39] 拉斯库蒂,G。;Mahoney,M.W.,《普通最小二乘法随机绘制的统计学视角》,J.Mach。学习。决议,17,第214条pp.(2016)·Zbl 1436.62331号
[40] Rokhlin,V。;Tygert,M.,超定线性最小二乘回归的快速随机算法,Proc。国家。阿卡德。科学。美国,105,13212-13217(2008)·Zbl 1513.62144号
[41] Sarlós,T.,通过随机投影改进大矩阵近似算法,(第47届IEEE计算机科学基础年会(FOCS’06)(2006),IEEE),143-152
[42] Stewart,G.W.,关于标度投影和伪逆,线性代数应用。,112, 189-193 (1989) ·Zbl 0658.15003号
[43] Stewart,G.W.,《关于斜投影的数值分析》,SIAM J.Matrix Ana。申请。,32, 309-348 (2011) ·Zbl 1225.65046号
[44] 斯图尔特,G.W。;Sun,J.G.,矩阵摄动理论。计算机科学和科学计算(1990),学术出版社:学术出版社,马萨诸塞州波士顿·Zbl 0706.65013号
[45] Sun,J.G.,具有多个右手边的线性最小二乘问题的最优后摄动界,IMA J.Numer。分析。,16, 1-11 (1996) ·Zbl 0845.15002号
[46] Thanei,G.A。;海因策,C。;Meinshausen,N.,大规模回归的随机预测(2017)·Zbl 06815953号
[47] Turnšek,A.,关于近似保持正交性的映射,J.Math。分析。申请。,336, 625-631 (2007) ·Zbl 1129.39011号
[48] 乌巴鲁,S。;陈,J。;Saad,Y.,通过随机Lanczos求积快速估计(\text{tr}(f(A))),SIAM J.矩阵分析。申请。,38, 1075-1099 (2017) ·Zbl 1386.65125号
[49] 乔恩,A.,斜投影的特征及其在约束最小二乘中的应用,线性代数应用。,431, 1564-1570 (2009) ·Zbl 1185.15003号
[50] Velleman,P.F。;Welsch,R.E.,回归诊断的有效计算,《美国统计》,35,234-242(1981)·Zbl 0475.65099号
[51] Wang,H。;朱,R。;Ma,P.,大规模逻辑回归的最优二次抽样,J.Am.Stat.Assoc.,113829-844(2018)·兹比尔1398.62196
[52] Wang,I.J.,《检查景观异质性对空间遗传变异的全部影响:量化地理和生态隔离的多元矩阵回归方法》,《进化》,673403-3411(2013)
[53] 王,Q。;陈,F。;高奇。;高,X。;Nie,F.,关于基于矩阵的子空间学习和分类的Schatten范数,神经计算,216192-199(2016)
[54] 王,Q。;高奇。;高,X。;Nie,F.,具有F-范数最小化的最优平均二维主成分分析,模式识别。,68, 286-294 (2017)
[55] 王,S。;Gittens,A。;Mahoney,M.W.,《略图岭回归:优化视角、统计视角和模型平均》,J.Mach。学习。决议,18,8039-8088(2017)·Zbl 1473.62253号
[56] 魏,M。;De Pierro,A.R.,加权投影的扰动上限,加权和约束最小二乘问题,SIAM J.矩阵分析。申请。,21, 931-951 (2000) ·Zbl 0953.65027号
[57] Woodruff,D.P.,《素描作为数值线性代数的工具》(Foundations and Trends®in Theory Computer Science,vol.10(2014)),1-157·Zbl 1316.65046号
[58] 杨,J。;罗,L。;钱,J。;Tai,Y。;张,F。;Xu,Y.,基于核范数的矩阵回归及其在遮挡和光照变化的人脸识别中的应用,IEEE Trans。模式分析。马赫。智力。,39, 156-171 (2016)
[59] 周,H。;Li,L.,正则化矩阵回归,J.R.Stat.Soc.,Ser。B、 统计方法。,76, 463-483 (2014) ·Zbl 07555458号
[60] 朱,P。;Knyazev,A.V.,子空间与其切线之间的角度,J.Numer。数学。,21, 325-340 (2013) ·Zbl 1286.65052号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。