×
陈嘉琪;黄正达

求解线性最小二乘问题的快速块坐标下降法。 （英语） 兹比尔1481.65050

东亚应用杂志。数学。 12，第2号，406-420（2022）.
摘要：提出了一种求解线性最小二乘问题的快速块坐标下降法。该方法基于每次迭代时使用的列选择贪婪准则。证明了当相应系统的系数矩阵具有全列秩时，该方法收敛于线性最小二乘问题的唯一解。数值实验表明，无论系数矩阵是否为全列秩，该方法在CPU时间和计算成本方面都优于同类方法。

引用于1文件

MSC公司：

65层10 线性系统的迭代数值方法
65层20 超定系统伪逆的数值解
65千5 数值数学规划方法
90C25型 凸面编程
15A06号 线性方程组（线性代数方面）

关键词：

线性最小二乘问题;卡兹马茨法;坐标下降法;贪婪的区块;汇聚

软件：

稀疏矩阵
PDF格式BibTeX公司 XML格式引用
\textit{J.-Q.Chen}和\textit{Z.-D.Huang}，东亚应用杂志。数学。12，第2号，406--420（2022；Zbl 1481.65050）
全文： 内政部

参考文献：

[1] Z.-Z.Bai和X.-G.Liu，关于Meany不等式及其在几种行操作迭代方法收敛性分析中的应用，Numer。数学。124, 215-236 (2013). ·Zbl 1306.15015号
[2] Bai，L.Wang和W.-T.Wu，关于随机高斯-赛德尔方法的收敛速度，线性代数应用。611, 237-252 (2021). ·Zbl 1459.65040号
[3] Z.－Z.Bai和W.－T.Wu，关于求解大型稀疏线性系统的贪婪随机Kaczmarz方法，SIAM J.Sci。计算。40，A592-A606（2018）·Zbl 1383.65024号
[4] Z.-Z.Bai和W.-T.Wu，关于求解大型稀疏线性系统的松弛贪婪随机Kaczmarz方法，应用。数学。莱特。83, 21-26 (2018). ·Zbl 1524.65191号
[5] Z.-Z.Bai和W.-T.Wu，关于求解大型线性最小二乘问题的贪婪随机坐标下降法，Numer。线性代数应用。26，e2237（2019）·Zbl 1449.65128号
[6] Z.-Z.Bai和W.-T.Wu，关于求解大型稀疏超定不相容线性系统的部分随机扩展Kaczmarz方法，线性代数应用。578, 225-250 (2019). ·Zbl 1420.65028号
[7] Z.-Z.Bai和W.-T.Wu，关于求解大型稀疏不一致线性系统的贪婪随机增广Kaczmarz方法，SIAM J.Sci。计算。43，A3892-A3911（2021）·Zbl 1483.65065号
[8] 陈建清，黄振东，关于随机双区组Kaczmarz方法的误差估计，应用。数学。计算。370, 124907 (2020). ·兹比尔1441.65033
[9] 陈建清，黄振东，关于求解大规模线性系统的快速确定性块Kaczmarz方法，数值。算法89，1007-1029（2022）·Zbl 1487.65035号
[10] T.A.Davis和Y.Hu，佛罗里达大学稀疏矩阵收集，ACM Trans。数学。软件38，1-25（2011）·Zbl 1365.65123号
[11] K.Du，W.-T.Si和X.-H.Sun，用于求解最小二乘的随机扩展平均块Kaczmarz，SIAM J.Sci。计算。42，A3541-A3559（2020年）·Zbl 1457.65020号
[12] B.Dumitrescu，n随机扩展Kaczmarz算法与协调下降的关系，BIT 551005-1015（2015）·Zbl 1332.65056号
[13] A.Galántai，《投影仪和投影方法》，Kluwer学术出版社（2004年）·Zbl 1055.65043号
[14] S.Kaczmarz，Angenäherte auflösung von systemen linearer gleichungen，公牛。国际学术界。波隆。科学。莱特。A 35355-357（1937）·JFM 63.0524.02号
[15] D.Leventhal和A.S.Lewis，线性约束的随机方法：收敛速度和条件，数学。操作。第35号决议，第641-654号决议（2010年）·Zbl 1216.15006号
[16] 刘勇，X.-L.Jiang和C.-Q.Gu，关于线性最小二乘问题的最大剩余块和两步Gauss-Seidel算法，Calcolo 58，13（2021）·Zbl 1472.65040号
[17] Lu Z.和Xiao L.，关于随机块坐标下降方法的复杂性分析，数学。程序。152, 615-642 (2015). ·Zbl 1321.65100号
[18] 罗志清，曾培生，关于凸可微极小化的坐标下降法的收敛性，J.Optim。理论应用。72, 7-35 (1992). ·Zbl 0795.90069号
[19] I.Necoara，Y.Nesterov和F.Glineur，网络线性约束优化的随机块坐标下降方法，J.Optim。理论应用。173, 227-254 (2017). ·Zbl 1370.90145号
[20] D.Needell，噪声线性系统的随机Kaczmarz解算器，BIT 50395-403（2010）·Zbl 1195.65038号
[21] D.Needell，R.Zhao和A.Zouzias，求解最小二乘的带投影的随机块Kaczmarz方法，线性代数应用。484, 322-343 (2015). ·Zbl 1330.65056号
[22] P.Richtárik和M.Takáć，最小化复合函数的随机块坐标下降方法的迭代复杂性，数学。程序。144, 1-38 (2014). ·Zbl 1301.65051号
[23] T.Strohmer和R.Vershynin，具有指数收敛性的随机Kaczmarz算法，J.傅立叶分析。申请。15, 262-278 (2009). ·兹比尔1169.68052
[24] S.J.Wright，坐标下降算法，数学。程序。151, 3-34 (2015). ·Zbl 1317.49038号
[25] W.-T.Wu，关于求解大型线性最小二乘问题的两个子空间随机扩展Kaczmarz方法，Numer。算法89，1-31（2022）·Zbl 1480.65091号
[26] A.Zouzias和N.M.Freris，用于求解最小二乘的随机扩展Kaczmarz，SIAM J.矩阵分析。申请。34, 773-793 (2013). ·Zbl 1273.65053号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。