×

Anderson加速度作为Krylov方法及其在收敛性分析中的应用。 (英语) Zbl 07818677号

摘要:Anderson加速度(AA)被广泛用于加速非线性不动点方法的收敛,但对于如何量化AA提供的渐近收敛加速度知之甚少。作为进一步理解AA收敛加速度的途径,我们研究AA\(m)\,即。,有限窗口尺寸(m)的Anderson加速度,应用于线性定点迭代的情况。我们将AA(m)写成带有多项式残差更新公式的Krylov方法,并导出了AA多项式的(m+2)项递推关系。基于这些多项式残差更新公式,我们得到了几个结果,包括正交关系、加速度系数界、非线性递归和残差收敛界。我们将这些结果应用于研究AA(1)剩余收敛模式以及初始猜测对渐近收敛因子的影响。

MSC公司:

65层10 线性系统的迭代数值方法
65H10型 方程组解的数值计算
65K10码 数值优化和变分技术

软件:

安德森
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] 安·H。;贾,X。;Walker,HF,Anderson加速度及其在三个温度能量方程中的应用,J.Comput。物理。,347, 1-19, 2017 ·Zbl 1380.65092号 ·doi:10.1016/j.jp.2017.06.031
[2] Anderson,DG,非线性积分方程的迭代程序,美国计算机学会(JACM),12,4,547-5601965·Zbl 0149.11503号 ·doi:10.1145/321296.321305
[3] 贝克,AH;Jessup,ER;Manteuffel,T.,《加速重启GMRES收敛的技术》,SIAM J.矩阵分析。申请。,26, 4, 962-984, 2005 ·Zbl 1086.65025号 ·doi:10.1137/S089547979803422014
[4] 布鲁纳,公关;Knepley,MG;史密斯,BF;Tu,X.,《编写可扩展非线性代数解算器》,SIAM Rev.,57,4,535-5652015·Zbl 1336.65030号 ·数字对象标识代码:10.1137/130936725
[5] De Sterck,H.,规范张量分解的非线性GMRES优化算法,SIAM J.Sci。计算。,2012年A1351-A1379第34、3页·Zbl 1253.15035号 ·数字对象标识代码:10.1137/10835530
[6] De Sterck,H.,非线性GMRES优化的最速下降预处理,数值。线性代数应用。,20, 3, 453-471, 2013 ·Zbl 1313.65137号 ·doi:10.1002/nla.1837
[7] De Sterck,H。;He,Y.,关于Anderson加速度、Nesterov加速度和非线性GMRES的渐近线性收敛速度,SIAM J.Sci。计算。,S21-S462021年5月43日·Zbl 1490.65120号 ·数字对象标识代码:10.1137/20M1347139
[8] De Sterck,H。;He,Y.,安德森加速度的线性渐近收敛:定点分析,SIAM J.矩阵分析。申请。,43, 4, 1755-1783, 2022 ·Zbl 1511.65005号 ·doi:10.1137/21M1449579
[9] 埃文斯,C。;波洛克,S。;LG Rebholz;Xiao,M.,证明Anderson Acceleration提高了线性收敛不动点方法的收敛速度(但在那些二次收敛的方法中没有),SIAM J.Numer。分析。,2020年8月1日至10日·兹比尔1433.65102 ·doi:10.1137/19M1245384
[10] 方,人力资源部;Saad,Y.,非线性加速度的两类多斜面方法,Numer。线性代数应用。,16, 3, 197-221, 2009 ·Zbl 1224.65134号 ·doi:10.1002/nla.617
[11] 傅,A。;张杰。;Boyd,S.,Anderson加速了Douglas-Rachford分裂,SIAM J.Sci。计算。,42、6、A3560-A35832020·Zbl 1458.90511号 ·doi:10.1137/19M1290097
[12] 北卡罗来纳州亨德森;Varadhan,R.,Damped Anderson加速,带重启和单调控制,用于加速EM和类EM算法,J.Compute。图表。统计数据,28,4834-8462019·Zbl 07499030号 ·doi:10.1080/10618600.2019.1594835
[13] Ho,N。;奥尔森,SD;Walker,HF,加速Uzawa算法,SIAM J.Sci。计算。,2017年S461-S476第39、5页·Zbl 1392.65056号 ·doi:10.1137/16M1076770
[14] Kindermann,S.,线性不适定问题Nesterov加速度的最优阶收敛性,逆问题。,37, 6, 065002, 2021 ·Zbl 1503.65120号 ·doi:10.1088/1361-6420/abf5bc
[15] Lipnikov,K。;斯维亚茨基,D。;Vassilevski,Y.,对流扩散问题非线性有限体积格式的Anderson加速度,SIAM J.Sci。计算。,2013年A1120-A1136月2日,第35页·Zbl 1266.65181号 ·数字对象标识代码:10.1137/120867846
[16] Liu,C.,Belkin,M.:无条件数的参数化加速方法。arXiv预印arXiv:1802.10235(2018)
[17] Lockhart,S.、Gardner,D.J.、Woodward,C.S.、Thomas,S.和Olson,法律公告:安德森加速不动点解算器中低同步正交化方法的性能。在:2022年SIAM科学计算并行处理会议记录,第49-59页。SIAM(2022年)
[18] Lott,P。;沃克,H。;伍德沃德,C。;Yang,U.,与可变饱和流量相关的非线性系统的加速Picard方法,Adv.Water Resour。,38, 92-101, 2012 ·doi:10.1016/j.advwatres.2011.12.013
[19] Moler,CB,《用MATLAB进行数值计算》,2004年,新德里:新德里SIAM·Zbl 1214.68473号 ·doi:10.1137/1.9780898717952
[20] Ni,P.:定点迭代的Anderson加速及其在电子结构计算中的应用。伍斯特理工学院博士论文(2009年)
[21] Niu,C.,Hu,X.:动量加速多重网格方法。arXiv预打印arXiv:2006.16986(2020)
[22] Oosterlee,C。;Washio,T.,非线性多重网格的Krylov子空间加速及其在再循环流中的应用,SIAM J.Sci。计算。,21, 5, 1670-1690, 2000 ·Zbl 0968.76061号 ·doi:10.1137/S1064827598338093
[23] 波洛克,S。;Rebholz,LG,Anderson压缩和非压缩算子加速,IMA J.Numer。分析。,41, 4, 2841-2872, 2021 ·Zbl 1507.65007号 ·doi:10.1093/imanum/draa095
[24] 波洛克,S。;Schwartz,H.,Newton-Anderson方法的基准结果,结果应用。数学。,8, 100095, 2020 ·Zbl 1436.65063号 ·doi:10.1016/j.rinam.2020.100095
[25] 波特拉,FA;Engler,H.,线性问题上Anderson加速度行为的表征,线性代数应用。,438, 3, 1002-1011, 2013 ·Zbl 1263.65036号 ·doi:10.1016/j.laa.2012.09.08
[26] 萨阿德,Y。;Schultz,MH,GMRES:求解非对称线性系统的广义最小残差算法,SIAM J.Sci。统计计算。,7, 3, 856-869, 1986 ·Zbl 0599.65018号 ·doi:10.1137/0907058
[27] Scieur,D.,D'Aspremont,A.,Bach,F.:正则化非线性加速度。在:《神经信息处理系统的进展》,第712-720页(2016)
[28] 托斯,A。;Kelley,CT,Anderson加速度收敛分析,SIAM J.Numer。分析。,2015年2月2日至8月19日·兹比尔1312.65083 ·doi:10.1137/130919398
[29] Walker,HF;Ni,P.,Anderson定点迭代加速度,SIAM J.Numer。分析。,49, 4, 1715-1735, 2011 ·Zbl 1254.65067号 ·数字对象标识码:10.1137/10078356X
[30] Wang博士。;他,Y。;De Sterck,H.,关于应用于admm的Anderson加速度的渐近线性收敛速度,J.Sci。计算。,88, 2, 38, 2021 ·Zbl 1487.65004号 ·doi:10.1007/s10915-021-01548-2
[31] Washio,T。;Oosterlee,CW,非线性多重网格方案的Krylov子空间加速,Electron。事务处理。数字。分析。,6, 271-290, 3-1, 1997 ·Zbl 0903.65096号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。