×

求解大型线性系统的贪婪随机平均分块Kaczmarz方法。 (英语) Zbl 1489.65054号

小结:受贪婪随机Kaczmarz方法的启发,我们提出了一个概率准则,该准则可以捕获范数相对较大的残差的子向量。根据该概率准则,我们从系数矩阵中随机选择一个子矩阵,然后将当前迭代向量的投影平均到所选子矩阵的每一行上,构造贪婪的随机平均块Kaczmarz方法来求解一致的线性方程组,该方法可以在分布式环境中实现。当每个块的大小为1时,贪婪随机平均块Kaczmarz方法中的概率准则是贪婪随机Kaczmarz方法中概率准则的推广。贪婪随机Kaczmarz方法也是贪婪随机平均块Kaczmanz方法的特例。分析了贪婪随机平均块Kaczmarz方法的两种外推步长。实验结果表明,贪婪随机平均块Kaczmarz方法优于贪婪随机Kaczmarz方法和几种现有的随机块Kaczzmarz方法。

MSC公司:

65层10 线性系统的迭代数值方法
65层20 超定系统伪逆的数值解
65千5 数值数学规划方法
90C25型 凸面编程
15A06号 线性方程组(线性代数方面)

软件:

稀疏矩阵
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] 斯特罗默,T。;Vershynin,R.,《指数收敛的随机Kaczmarz算法》,J.Fourier Ana。申请。,15262-278(2009年)·Zbl 1169.68052号
[2] Bai,Z.-Z。;Liu,X.-G.,关于Meany不等式及其在几种行操作迭代方法收敛性分析中的应用,Numer。数学。,124, 215-236 (2013) ·Zbl 1306.15015号
[3] Bai,Z.-Z。;Pan,J.-Y.,《矩阵分析与计算》(2021),SIAM:宾夕法尼亚州费城SIAM·Zbl 07417710号
[4] Galántai,A.,《投影仪和投影方法》(2004),Kluwer学术出版社:Kluwer-学术出版社,马萨诸塞州诺威尔·Zbl 1055.65043号
[5] Kaczmarz,S.,Angenäherte Auflösung von Systemen直系人Gleichungen,公牛。国际学术界。波隆。科学。莱特。A、 35、355-357(1937)
[6] Bai,Z.-Z。;吴文涛,关于随机Kaczmarz方法的收敛速度,线性代数应用。,553, 252-269 (2018) ·Zbl 1391.65063号
[7] Gower,R.M。;Richtárik,P.,线性系统的随机迭代方法,SIAM J.矩阵分析。申请。,36, 1660-1690 (2015) ·Zbl 1342.65110号
[8] 马,A。;Needell,D。;Ramdas,A.,随机扩展Gauss-Seidel和Kaczmarz方法的收敛性,SIAM J.矩阵分析。申请。,36, 1590-1604 (2015) ·Zbl 1327.65112号
[9] Bai,Z.-Z。;Wu,W.-T.关于求解大型稀疏超定不一致线性系统的部分随机扩展Kaczmarz方法,线性代数应用。,578, 225-250 (2019) ·Zbl 1420.65028号
[10] Bai,Z.-Z。;Wu,W.-T.,关于求解大型稀疏不一致线性系统的贪婪随机增广Kaczmarz方法,SIAM J.Sci。计算。,43,A3892-A3911(2021)·Zbl 1483.65065号
[11] Du,K.,随机扩展Kaczmarz和Gauss-Seidel算法收敛的紧上界,Numer。线性代数应用。,26,第2233条,第(2019)页,第1-14页·兹比尔1513.65068
[12] Wu,W.-T.,关于部分随机扩展Kaczmarz方法的收敛性,东亚应用杂志。数学。,12, 435-448 (2022) ·Zbl 1481.65054号
[13] Zouzias,A。;Freris,N.M.,求解最小二乘的随机扩展Kaczmarz,SIAM J.矩阵分析。申请。,34, 773-793 (2013) ·Zbl 1273.65053号
[14] 赫夫尼,A。;Needell,D。;Ramdas,A.,《行与列:岭回归的随机Kaczmarz或Gauss-Seidel》,SIAM J.Sci。计算。,39,S528-S542(2017)·Zbl 1392.65054号
[15] 刘,Y。;Gu,C.-Q.,岭回归贪婪随机Kaczmarz变量,应用。数字。数学。,143, 223-246 (2019) ·Zbl 1477.65059号
[16] De Loera,J.A。;哈多克,J。;Needell,D.,线性可行性的采样Kaczmarz-Motzkin算法,SIAM J.Sci。计算。,39,S66-S87(2017)·Zbl 1373.90070
[17] Leventhal,D。;Lewis,A.S.,线性约束的随机方法:收敛速度和条件,数学。操作。决议,35,641-654(2010)·Zbl 1216.15006号
[18] Needell,D。;Tropp,J.A.,《善意铺垫:随机块Kaczmarz方法分析》,线性代数应用。,441, 199-221 (2014) ·Zbl 1282.65042号
[19] Elfving,T.,一致和不一致线性方程组的块迭代方法,数字。数学。,35, 1-12 (1980) ·Zbl 0416.65031号
[20] Necoara,I.,《更快的随机块Kaczmarz算法》,SIAM J.矩阵分析。申请。,40, 1425-1452 (2019) ·Zbl 1453.65074号
[21] 杜,K。;硅,W.-T。;Sun,X.-H.,求解最小二乘的随机扩展平均块Kaczmarz,SIAM J.Sci。计算。,42,A3541-A3559(2020)·Zbl 1457.65020号
[22] Needell,D。;赵,R。;Zouzias,A.,求解最小二乘的带投影的随机块Kaczmarz方法,线性代数应用。,484, 322-343 (2015) ·Zbl 1330.65056号
[23] Wu,W.-T.,关于求解大型线性最小二乘问题的两个子空间随机扩展Kaczmarz方法,Numer。算法,89,1-31(2022)·Zbl 1480.65091号
[24] Bai,Z.-Z。;Wu,W.-T.,关于求解大型稀疏线性系统的贪婪随机Kaczmarz方法,SIAM J.Sci。计算。,40,A592-A606(2018)·Zbl 1383.65024号
[25] Bai,Z.-Z。;Wu,W.-T.,关于求解大型稀疏线性系统的松弛贪婪随机Kaczmarz方法,应用。数学。莱特。,83, 21-26 (2018) ·Zbl 1524.65191号
[26] Bai,Z.-Z。;Wu,W.-T.,关于求解大型线性最小二乘问题的贪婪随机坐标下降法,Numer。线性代数应用。,26,第2237条,第(2019)页,第1-15页·Zbl 1449.65128号
[27] 刘,Y。;Gu,C.-Q.,关于一致线性系统的贪婪随机块Kaczmarz方法,线性代数应用。,616, 178-200 (2021) ·Zbl 1461.65040号
[28] Tropp,J.A.,列子集选择、矩阵分解和特征值优化,(第二十届ACM-SIAM离散算法年会论文集(2009),SIAM:SIAM PA),978-986·兹比尔1425.65061
[29] Tropp,J.A.,子样本随机Hadamard变换的改进分析,Adv.Adapt。数据分析。,3, 115-126 (2011) ·Zbl 1232.15029号
[30] 戴维斯,T.A。;Hu,Y.,佛罗里达大学稀疏矩阵收集,ACM Trans。数学。软质。,38(2011),第1条,第1-25页·Zbl 1365.65123号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。