杜奎;思、吴涛;孙晓辉 求解最小二乘的随机扩展平均块Kaczmarz。 （英语） Zbl 1457.65020号 SIAM J.科学。计算。 42，6号，A3541-A3559（2020）. 摘要：随机迭代算法最近被提出用于求解大规模线性系统。本文提出了一种简单的随机扩展平均块Kaczmarz算法，该算法在均方上指数收敛到给定线性方程组的唯一最小范数最小二乘解。该算法是无伪逆的，因此不同于基于投影的随机双块Kaczmarz算法D.尼德尔等【线性代数应用484、322–343（2015；Zbl 1330.65056号)]. 我们强调，我们的方法适用于所有类型的线性系统（一致或不一致、超定或欠定、满秩或秩亏）。此外，我们的方法可以实现并行计算，从而显著提高计算时间。数值算例表明了新算法的有效性。 引用于30文件 MSC公司： 65层10 线性系统的迭代数值方法 65层20 超定系统伪逆的数值解 关键词：一般线性系统;最小范数最小二乘解;块Kaczmarz算法;指数收敛 引文：Zbl 1330.65056号 软件：稀疏矩阵 PDF格式BibTeX公司 XML格式引用 \textit{K.Du}等人，SIAM J.Sci。计算。42，6号，A3541---A3559（2020；Zbl 1457.65020） 全文： DOI程序 arXiv公司 参考文献： [1] M.Arioli、I.Duff、J.Noailles和D.Ruiz，稀疏矩阵的块投影方法，SIAM J.Sci。统计师。计算。，13（1992），第47-70页，https://doi.org/10.1137/0913003，https://mathscinet.ams.org/mathscinet-getitem？mr=1145175。 ·Zbl 0761.65015号 [2] Z.-Z.Bai和W.-T.Wu，关于随机Kaczmarz方法的收敛速度，线性代数应用。，553（2018），第252-269页，https://doi.org/10.1016/j.laa.2018.05.009。 ·Zbl 1391.65063号 [3] Z.－Z.Bai和W.－T.Wu，关于求解大型稀疏线性系统的贪婪随机Kaczmarz方法，SIAM J.Sci。计算。，40（2018年），第A592-A606页，https://doi.org/10.1137/17M1137747。 ·Zbl 1383.65024号 [4] Z.-Z.Bai和W.-T.Wu，关于求解大型稀疏线性系统的松弛贪婪随机Kaczmarz方法，应用。数学。莱特。，83（2018），第21-26页，https://doi.org/10.1016/j.aml.2018.03.008。 ·Zbl 1524.65191号 [5] Z.-Z.Bai和W.-T.Wu，关于求解大型线性最小二乘问题的贪婪随机坐标下降法，Numer。线性代数应用。，26（2019年），第2237、15页，https://doi.org/10.1002/nla.2237。 ·Zbl 1449.65128号 [6] Z.-Z.Bai和W.-T.Wu，关于求解大型稀疏超定不相容线性系统的部分随机扩展Kaczmarz方法，线性代数应用。，578（2019），第225-250页，https://doi.org/10.1016/j.laa.2019.05.005。 ·Zbl 1420.65028号 [7] A.Ben-Israel和T.N.E.Greville，《广义逆：理论与应用》，第二版，CMS数学图书/Ouvrages de Matheámatiques de la SMC 15，Springer-Verlag，纽约，2003年，https://mathscinet.ams.org/mathscinet-getitem？mr=1987382。 ·Zbl 1026.15004号 [8] R.Bramley和A.Sameh，大型非对称线性系统的行投影方法，SIAM J.Sci。统计师。计算。，13（1992），第168-193页，https://doi.org/10.1137/0913010。 ·Zbl 0752.65024号 [9] C.Byrne，信号处理和图像重建中一些迭代算法的统一处理，逆问题，20（2004），pp.103-120，https://doi.org/10.1088/0266-5611/20/1/006。 ·Zbl 1051.65067号 [10] T.A.Davis和Y.Hu，佛罗里达大学稀疏矩阵收集，ACM Trans。数学。《软件》，38（2011），第1、25、，https://doi.org/10.1145/2049662.2049663。 ·Zbl 1365.65123号 [11] J.A.De Loera、J.Haddock和D.Needell，线性可行性的采样Kaczmarz-Motzkin算法，SIAM J.Sci。计算。，39（2017），第S66-S87页，https://doi.org/10.1137/16M1073807。 ·Zbl 1373.90070 [12] L.A.Drummond、I.S.Duff、R.Guivarch、D.Ruiz和M.Zenadi，块Cimmino算法的分区策略，J.工程数学。，93（2015），第21-39页，https://doi.org/10.1007/s10665-014-9699-0。 ·Zbl 1360.65100号 [13] K.Du，随机扩展Kaczmarz和Gauss-Seidel算法收敛的紧上界，Numer。线性代数应用。，26（2019年），第2233页，第14页，https://doi.org/10.1002/nla.2233。 ·兹比尔1513.65068 [14] 杜凯（K.Du）和高浩（H.Gao），最大加权残差Kaczmarz算法收敛速度的新理论估计，Numer。数学。理论方法应用。，12（2019年），第627-639页，https://mathscinet.ams.org/mathscinet-getitem？mr=3894847。 ·兹比尔1449.65054 [15] K.Du和X.Sun，解线性方程组的双随机块高斯-赛德尔算法，预印本，arXiv:1912.132912019。 [16] I.S.Duff、R.Guivarch、D.Ruiz和M.Zenadi，增广块Cimmino分布式方法，SIAM J.Sci。计算。，37（2015），第A1248-A1269页，https://doi.org/10.1137/10961444。 ·Zbl 1318.65016号 [17] B.Dumitrescu，《关于随机扩展Kaczmarz算法与坐标下降的关系》，BIT，55（2015），第1005-1015页，https://doi.org/10.1007/s10543-014-0526-9。 ·Zbl 1332.65056号 [18] T.Elfving，一致和不一致线性方程组的块迭代方法，数值。数学。，35（1980），第1-12页，https://doi.org/10.1007/BF01396365。 ·Zbl 0416.65031号 [19] G.H.Golub和C.F.Van Loan，《矩阵计算》，第四版，约翰霍普金斯数学科学研究，约翰霍普金斯大学出版社，马里兰州巴尔的摩，2013年·Zbl 1268.65037号 [20] R.M.Gower和P.Richtaárik，线性系统的随机迭代方法，SIAM J.Matrix Ana。申请。，36（2015），第1660-1690页，https://doi.org/10.1137/15M1025487。 ·Zbl 1342.65110号 [21] J.Haddock和D.Needell，《关于不一致线性系统的Motzkin方法》，BIT，59（2019），第387-401页，https://doi.org/10.1007/s10543-018-0737-6。 ·Zbl 1435.65051号 [22] J.Haddock和D.Needell，具有任意大稀疏腐蚀的线性系统的随机投影方法，SIAM J.Sci。计算。，41（2019年），第S19-S36页，https://doi.org/10.1137/18M1179213。 ·Zbl 1436.65031号 [23] A.Hefny、D.Needell和A.Ramdas，行与列：岭回归的随机Kaczmarz或Gauss Seidel，SIAM J.Sci。计算。，39（2017年），第S528-S542页，https://doi.org/10.1137/16M1077891。 ·Zbl 1392.65054号 [24] G.T.Herman，《计算机层析成像基础》，第二版，模式识别进展，投影图像重建，施普林格，多德雷赫特，荷兰，2009年，https://doi.org/10.1007/978-1-84628-723-7。 ·Zbl 1280.92002年 [25] G.T.Herman和R.Davidi，从少量投影重建图像，反问题，24（2008），045011，https://doi.org/10.1088/0266-5611/24/4/045011。 ·Zbl 1161.68825号 [26] G.T.Herman和L.B.Meyer，代数重建技术可以提高计算效率，IEEE Trans。《医学成像》，12（1993），第600-609页。 [27] S.Kaczmarz，Angena¨herte auflo¨sung von systemen linearer gleichungen，公牛。实习生。阿卡德。波兰舞曲科学。莱特。，Cl.科学。数学。《Nat.A》，35（1937），第355-357页。 [28] A.C.Kak和M.Slaney，计算机断层成像原理，应用数学经典33，SIAM，费城，2001年，https://doi.org/10.1137/1.9780898719277，重印1988年原版·Zbl 0984.92017号 [29] D.Leventhal和A.S.Lewis，线性约束的随机方法：收敛速度和条件，数学。操作。研究，35（2010），第641-654页，https://doi.org/10.1287/moor.1100.0456。 ·Zbl 1216.15006号 [30] J.Liu和S.J.Wright，加速随机Kaczmarz算法，数学。公司。，85（2016），第153-178页，https://doi.org/10.1090/mcom/2971。 ·Zbl 1327.65065号 [31] 刘彦和顾春秋，岭回归贪婪随机Kaczmarz变量，应用。数字。数学。，143（2019），第223-246页，https://doi.org/10.1016/j.apnum.2019.04.008。 ·Zbl 1477.65059号 [32] D.A.Lorenz、S.Wenger、F.Schopfer和M.Magnor，在线压缩感知的稀疏Kaczmarz解算器和线性化Bregman方法，IEEE国际图像处理会议，2015年，第1347–1351页。 [33] A.Ma、D.Needell和A.Ramdas，随机扩展Gauss-Seidel和Kaczmarz方法的收敛性，SIAM J.矩阵分析。申请。，36（2015），第1590-1604页，https://doi.org/10.1137/15M1014425。 ·Zbl 1327.65112号 [34] J.D.Moorman、T.K.Tu、D.Molitor和D.Needell，随机Kaczmarz平均，预印本，arXiv:2002.0412020。 [35] F.Natterer，《计算机断层成像的数学》，应用数学经典32，SIAM，费城，2001年，https://doi.org/10.1137/1.9780898719284。 ·Zbl 0973.92020号 [36] I.Necoara，《更快的随机块Kaczmarz算法》，SIAM J.矩阵分析。申请。，40（2019），第1425-1452页，https://doi.org/10.1137/19M1251643。 ·Zbl 1453.65074号 [37] I.Necoara、P.Richtaárik和A.Patrascu，凸可行性的随机投影方法：条件和收敛速度，SIAM J.Optim。，29（2019），第2814-2852页，https://doi.org/10.1137/18M1167061。 ·Zbl 1430.90463号 [38] D.Needell，噪声线性系统的随机Kaczmarz解算器，BIT，50（2010），第395-403页，https://doi.org/10.1007/s10543-010-0265-5。 ·Zbl 1195.65038号 [39] D.Needell、N.Srebro和R.Ward，《随机梯度下降、加权采样和随机Kaczmarz算法》，数学。程序。，155（2016），第549-573页，https://doi.org/10.1007/s10107-015-0864-7。 ·Zbl 1333.65070号 [40] D.Needell和J.A.Tropp，《善意铺垫：随机块Kaczmarz方法分析》，线性代数应用。，441（2014），第199-221页，https://doi.org/10.1016/j.laa.2012.12.022。 ·Zbl 1282.65042号 [41] D.Needell、R.Zhao和A.Zouzias，求解最小二乘的带投影的随机块Kaczmarz方法，线性代数应用。，484（2015），第322-343页，https://doi.org/10.1016/j.laa.2015.06.027。 ·Zbl 1330.65056号 [42] S.Petra和C.Popa，单投影Kaczmarz扩展算法，数值。《算法》，73（2016），第791-806页，https://doi.org/10.1007/s11075-016-0118-7。 ·Zbl 1376.65062号 [43] B.T.Poljak，最小化泛函的梯度方法，Ž。Vyc岛。Mat.Mat.Fiz.公司。，3（1963年），第643-653页·Zbl 0196.47701号 [44] C.Popa，带松弛参数的块投影方法对不一致和秩亏最小二乘问题的扩展，BIT，38（1998），第151-176页，https://doi.org/10.1007/BF02510922。 ·Zbl 1005.65038号 [45] C.Popa，Kaczmarz型算法的收敛速度，数值。算法，79（2018），第1-17页，https://doi.org/10.1007/s11075-017-0425-7。 ·Zbl 1398.65049号 [46] C.Popa和R.Zdunk，从有限数据重建层析图像的Kaczmarz扩展算法，数学。计算。模拟，65（2004），第579-598页，https://doi.org/10.1016/j.matcom.2004.01.021。 [47] M.Razaviyayn、M.Hong、N.Reyhanian和Z.-Q.Luo，解线性方程组和某类超参数优化问题的线性收敛双随机Gauss-Seidel算法，数学。程序。，176（2019），第465-496页，https://doi.org/10.1007/s10107-019-01404-0。 ·Zbl 07073557号 [48] P.Richtaárik和M.Takaáč，线性系统算法和收敛理论的随机重新表述，SIAM J.Matrix Anal。申请。，41（2020），第487-524页·Zbl 1440.65045号 [49] T.Strohmer和R.Vershynin，指数收敛的随机Kaczmarz算法，J.Fourier Ana。申请。，15（2009），第262-278页，https://doi.org/10.1007/s00041-008-9030-4。 ·Zbl 1169.68052号 [50] F.S.Torun、M.Manguoglu和C.Aykanat，用于加速块Cimmino算法的新型分区方法，SIAM J.Sci。计算。，40（2018），第C827-C850页，https://doi.org/10.1137/18M1166407。 ·Zbl 1404.65018号 [51] J.-J.Zhang，求解超大型线性系统的一种新的贪婪Kaczmarz算法，应用。数学。莱特。，91（2019），第207-212页，https://doi.org/10.1016/j.aml.2018.12.022。 ·Zbl 1409.65020号 [52] A.Zouzias和N.M.Freris，用于求解最小二乘的随机扩展Kaczmarz，SIAM J.矩阵分析。申请。，34（2013），第773-793页，https://doi.org/10.1137/120889897。 ·Zbl 1273.65053号 此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。