达米安·斯特拉扎克;Vishnoi，Nisheeth K。 迭代重加权最小二乘法和黏菌动力学：连接和收敛。 （英语） Zbl 1501.37083号 数学。程序。 194，编号1-2（A），685-717（2022）. 摘要：我们提出了两个在完全不同背景下产生的动力学系统之间的联系：用于压缩感知和稀疏恢复的迭代重加权最小二乘（IRLS）算法，以在仿射空间中找到最小（ell_1）范数解，以及黏菌的动力学(多头绒泡菌)在迷宫中找到最短的路径。我们通过提出一个新的动力学系统-元算法来阐明这一联系，并表明IRLS算法和黏菌动力学都可以通过将其专门化为不相交的变量集来获得。随后，在泥霉菌动力学寻找最短路径的基础上，我们证明了Meta-Algorithm的收敛性并获得了复杂性边界，该算法可视为IRLS算法的“阻尼”版本。后一个结果的结果是用黏菌动力学来解决无向转运问题，该问题在输入图的大小、最大边缘成本和（frac{1}{varepsilon}）的时间多项式中计算（1+varepsilen）-近似解，这是一个由V.博尼法奇等[摘自：2012年1月17日至19日在日本京都举行的第23届ACM-SIAM离散算法年度研讨会论文集，2012年SODA。宾夕法尼亚州费城：工业和应用数学学会（SIAM）；纽约州纽约市：计算机协会（ACM）。233–240 (2012;Zbl 1420.68088号)]. 引用于2文件 MSC公司： 37M99型 动力系统的逼近方法和数值处理 65页99 动力系统中的数值问题 04年第68季度 经典计算模型（图灵机等） 68瓦40 算法分析 90立方厘米27 组合优化 90C25型 凸面编程 关键词：藻门;迭代重加权最小二乘法;动力系统;网络流量 引文：Zbl 1420.68088号 PDF格式BibTeX公司 XML格式引用 \textit{D.Straszak}和\textit{N.K.Vishnoi}，数学。程序。194，编号1-2（A），685-77（2022；兹bl 1501.37083） 全文： 内政部 参考文献： [1] Adil，D.，Kyng，R.，Peng，R..，Sachdeva，S.：范数回归的迭代求精。摘自：《第三十届ACM-SIAM离散算法年度研讨会论文集》，SODA 2019，美国加利福尼亚州圣地亚哥，2019年1月6日至9日，第1405-1424页（2019）。doi:10.1137/1.9781611975482.86·Zbl 1434.65025号 [2] Adil，D.，Peng，R.，Sachdeva，S.：p-范数线性回归的快速可证明收敛IRLS算法。摘自：H.M.Wallach、H.Larochelle、A.Beygelzimer、F.d'Alché-Buc、E.B.Fox、R.Garnett（eds.）《神经信息处理系统进展32：2019年神经信息处理体系年度会议》，2019年12月8日至14日，加拿大不列颠哥伦比亚省温哥华，第14166-14177页（2019）。统一资源定位地址http://papers.nips.cc/paper/9565-fast-provably-convergent-irls-algorithm-for-p-norm-linear回归 [3] Afek，Y.、Alon，N.、Barad，O.、Hornstein，E.、Barkai，N.和Bar-Joseph，Z.：基本分布式计算问题的生物解决方案。《科学》331（6014），183-185（2011）。doi:10.1212/science.1193210。统一资源定位地址http://science.sciencemag.org/content/331/6014/183 ·Zbl 1226.92001号 [4] Ba，德国；巴巴迪，B。；普登，PL；Brown，EN，迭代加权最小二乘算法的收敛性和稳定性，IEEE Trans。信号处理。，62, 1, 183-195 (2014) ·Zbl 1394.94055号 ·doi:10.1109/TSP.2013.2287685 [5] Becchetti，L.，Bonifaci，V.，Dirnberger，M.，Karrenbauer，A.，Mehlhorn，K.：Physarum可以计算最短路径：收敛证明和复杂性边界。摘自：《自动化、语言与编程——第40届国际学术讨论会》，2013年7月8日至12日，拉脱维亚里加，ICALP 2013，第二部分，第472-483页（2013）·Zbl 1335.68099号 [6] Becchetti，L.，Bonifaci，V.，Dirnberger，M.，Karrenbauer，A.，Mehlhorn，K.：Physarum可以计算最短路径：收敛证明和复杂性边界。In：完整版（2014）·Zbl 1335.68099号 [7] Beck，A.，关于凸规划交替极小化的收敛性及其在迭代加权最小二乘和分解方案中的应用，SIAM J.Opt。，25, 1, 185-209 (2015) ·Zbl 1358.90094号 ·数字对象标识码：10.1137/13094829X [8] 贝克尔，R。；博尼法奇，V。；Karrenbauer，A。；科列夫，P。；Mehlhorn，K.，《黏菌计算的两个结果》，Theor。计算。科学。，773, 79-106 (2019) ·Zbl 1422.68068号 ·doi:10.1016/j.tcs.2018.08.027 [9] 北Bissantz。；Dümbgen，L。；Munk，A。；Stratmann，B.，凸函数空间上广义迭代加权最小二乘算法的收敛性分析，SIAM J.Opt。，19, 4, 1828-1845 (2009) ·Zbl 1175.62036号 ·数字对象标识代码：10.1137/050639132 [10] Bonifaci，V.，Mehlhorn，K.，Varma，G.：Physarum可以计算最短路径。摘自：《第二十届ACM-SIAM离散算法研讨会论文集》，2012年SODA，日本京都，2012年1月17日至19日，第233-240页（2012）·Zbl 1420.68088号 [11] Brimberg，J。；Love，RF，具有lp距离的极小定位问题的广义迭代过程的全局收敛性，Oper。决议，41，6，1153-1163（1993）·Zbl 0795.90037号 ·数字对象标识代码：10.1287/opre.41.6.1153 [12] Bubeck，S.，Cohen，M.B.，Lee，Y.T.，Li，Y.：可证明超越自洽和在输入-稀疏时间内回归的同伦方法。摘自：《第50届ACM SIGACT计算机理论研讨会论文集》，STOC 2018，美国加利福尼亚州洛杉矶，2018年6月25日至29日，第1130-1137页（2018）。数字对象标识代码：10.1145/3188745.3188776·Zbl 1434.62147号 [13] Burrus，C.：迭代加权最小二乘法（2012）。统一资源定位地址https://cnx.org/contents/krkDdys0@12/迭代加权最小二乘法 [14] Burrus，CS公司；巴雷托，JA；Selesnick，IW，FIR滤波器的迭代重加权最小二乘设计，IEEE Trans。信号处理。，42, 11, 2926-2936 (1994) ·数字对象标识代码：10.1109/78.330353 [15] 坎迪斯，E。；J.隆伯格。；Tao，T.，《鲁棒不确定性原理：从高度不完整的频率信息中精确重建信号》，IEEE Trans。信息理论。，52, 2, 489-509 (2006) ·Zbl 1231.94017号 ·doi:10.1109/TIT.2005.862083 [16] 坎迪斯，E。；Tao，T.，线性规划解码，Inf.Theor。，IEEE传输。，51, 12, 4203-4215 (2005) ·兹比尔1264.94121 ·doi:10.1109/TIT.2005.858979 [17] Cardelli，L。；Csikász-Nagy，A.，细胞周期开关计算近似多数，Sci。众议员2656（2012）·doi:10.1038/srep00656 [18] Chartrand，R.，Yin，W.：压缩传感的迭代重加权算法。收录于：声学、语音和信号处理，2008年。ICASSP 2008。IEEE国际会议，第3869-3872页（2008） [19] Chastain，E.，Livnat，A.，Papadimitriou，C.，Vazirani，U.：算法、游戏和进化。《美国国家科学院院刊》111（29），10620-10623（2014）。doi:10.1073/pnas.1406556111。统一资源定位地址http://www.pnas.org/content/111/29/10620.摘要 ·Zbl 1355.91017号 [20] Chazelle，B.，《自然算法和影响系统》，Commun。ACM，55，12，101-110（2012）·doi:10.1145/2380656.2380679 [21] 陈，C。；He，L。；李，H。；黄，J.，用于基于分析的稀疏重建的快速迭代加权最小二乘算法，医学图像分析。，49, 141-152 (2018) ·doi:10.1016/j.media.2018.08.002 [22] 库克，W。；坎宁安，W。；滑轮板，W。；Schrijver，A.，库姆。选择。（1998），纽约：威利，纽约·Zbl 0909.90227号 [23] Daitch，S.I.，Spielman，D.A.：通过内点算法实现更快的近似有损广义流。摘自：C.Dwork（编辑）《第40届ACM计算机理论研讨会论文集》，加拿大不列颠哥伦比亚省维多利亚市，2008年5月17日至20日，第451-460页。ACM（2008）。doi:10.1145/1374376.1374441·Zbl 1231.68282号 [24] Daubechies，我。；DeVore，R。；福纳西尔，M。；Güntürk，CS，用于稀疏恢复的迭代重加权最小二乘最小化，Commun。纯应用程序。数学。，63, 1, 1-38 (2010) ·Zbl 1202.65046号 ·doi:10.1002/cpa.20303 [25] Dong，H.，Yang，L.：通过SVM和ELM迭代重加权最小二乘法进行稳健回归。CoRR abs/1903.11202（2019）。统一资源定位地址http://arxiv.org/abs/1903.11202 [26] Donoho，D.L.，Elad，M.：通过最小化在一般（非正交）字典中实现最优稀疏表示。美国国家科学院院刊100（5），2197-2202（2003）。doi:10.1073/pnas.0437847100。统一资源定位地址http://www.pnas.org/content/100/5/2197.摘要 ·Zbl 1064.94011号 [27] 多诺霍，DL；霍，X.，《测不准原理和理想原子分解》，IEEE Trans。信息理论。，47, 7, 2845-2862 (2001) ·Zbl 1019.94503号 ·doi:10.1109/18.959265 [28] 艾本，AE；Smith，J.，《从进化计算到事物的进化》，《自然》，521，7553，476-482（2015）·doi:10.1038/nature14544 [29] Ene，A.，Vladu，A.：通过迭代加权最小二乘法改进了（ell_1）和（ell_infty）回归的收敛性。摘自：《第36届机器学习国际会议论文集》，2019年6月9日至15日，美国加利福尼亚州长滩，第1794-1801（2019）页。统一资源定位地址http://proceedings.mlr.press/v97/ene19a.html [30] 偶数，S。；Tarjan，RE，网络流和测试图连通性，SIAM J.Compute。，4, 4, 507-518 (1975) ·Zbl 0328.90031号 ·数字对象标识代码：10.1137/0204043 [31] 法卡，E。；卡丹，F。；Putt，M.，《朝向静止的monge-kantorovich动力学：多头藻的经验》，SIAM J.Appl。数学。，78, 2, 651-676 (2018) ·Zbl 1385.49012号 ·doi:10.1137/16M1098383 [32] 法卡，E。；Karrenbauer，A。；科列夫，P。；Mehlhorn，K.，非均匀定向藻类模型的收敛性，Theor。计算。科学。，816, 184-194 (2020) ·Zbl 1437.90098号 ·doi:10.1016/j.tcs.2020.01.034 [33] 福特，L。；Fulkerson，D.，通过网络的最大流量，加拿大。数学杂志。，8, 399-404 (1956) ·Zbl 0073.40203号 ·doi:10.415/CJM-1956-045-5 [34] Goldberg，AV；Rao，S.，《超越流动分解屏障》，J.ACM，45，5，783-797（1998）·Zbl 1064.90567号 ·doi:10.1145/290179.290181 [35] Gordon，D.M.：《蚂蚁遭遇：互动网络和群体行为》。复杂系统中的底漆。普林斯顿大学出版社（2010）。统一资源定位地址https://books.google.ch/books？id=MabwdXLZ9YMC [36] 戈罗德尼茨基，I。；Rao，B.，《使用聚焦从有限数据重建稀疏信号：加权最小范数算法》，Trans。信号过程。，45, 3, 600-616 (1997) ·doi:10.1109/78.558475 [37] Green，P.，《迭代重加权最小二乘法用于最大似然估计，以及一些稳健且有抵抗力的替代方法（讨论）》，J.Royal Statist。Soc.，系列B：Methodol。，46, 149-192 (1984) ·Zbl 0555.62028号 [38] JE霍普克罗夫特；Karp，RM，二部图最大匹配的（n^{5/2}）算法，SIAM J.comput。，2, 4, 225-231 (1973) ·Zbl 0266.05114号 ·doi:10.1137/02019年2月20日 [39] Johannson，A.，Zou，J.：线性规划问题的黏菌求解器。在：世界是如何计算的。计算机科学讲义，第7318卷，第344-354页。施普林格，柏林-海德堡（2012）·Zbl 1358.92027号 [40] 卡拉姆，LJ；McClellan，JH，fir滤波器设计的复切比雪夫近似，IEEE Trans。电路系统。二： 分析。数字。信号处理。，42, 3, 207-216 (1995) ·Zbl 0835.93029号 ·doi:10.1109/82.372870 [41] Karlovitz，L.，《（L^p，p\）偶数和（L^infty）范数中最近点的构造》。i、 J.近似理论。，3, 2, 123-127 (1970) ·Zbl 0222.41016号 ·doi:10.1016/0021-9045（70）90019-5 [42] Karrenbauer，A。；科列夫，P。；Mehlhorn，K.，《非均匀藻门动力学的收敛性》，Theor。计算。科学。，816, 260-269 (2020) ·Zbl 1432.68147号 ·doi:10.1016/j.tcs.2020.02.032 [43] Lecun，Y。；Y.本吉奥。；Hinton，G.，《深度学习》，《自然》，521，7553，436-444（2015）·doi:10.1038/nature14539 [44] Lee，Y.T.，Sidford，A.：线性规划的寻路方法：在（O（\sqrt{rank}）迭代中求解线性规划和最大流的更快算法。在：第55届IEEE计算机科学基础年度研讨会，FOCS 2014，美国宾夕法尼亚州费城，2014年10月18日至21日，第424-433页（2014）。doi:10.1109/FOCS.2014.52 [45] Miyaji，T。；Ohnishi，I.，Physarum可以精确地用数学方法求解黎曼曲面上的最短路径问题，Int.J.Pure Appl。马特。，47, 3, 353-369 (2008) ·Zbl 1235.92004年 [46] Mukhoty，B.，Gopakumar，G.，Jain，P.，Kar，P.：稳健回归问题的全局收敛迭代加权最小二乘法。收录于：K.Chaudhuri，M.Sugiyama（编辑）机器学习研究论文集，机器学习研究文献集，第89卷，第313-322页。PMLR（2019）。统一资源定位地址http://proceedings.mlr.press/v89/mukhoty19a.html [47] Nakagaki，T。；山田，H。；Toth，A.，变形虫生物解迷宫，《自然》，4076803470（2000）·doi:10.1038/35035159 [48] Nesterov，Y.，Nemirovskii，A.：凸规划中的内点多项式算法，第13卷。工业和应用数学学会（1994）·Zbl 0824.90112号 [49] Olver，N.，Végh，L.A.：广义流最大化的一种更简单、更快的强多项式算法。2017年6月19日至23日，加拿大魁北克省蒙特利尔，STOC 2017，第49届ACM SIGACT年度计算理论研讨会论文集，第100-111页（2017）。doi:10.1145/305539.3055439·Zbl 1370.05203号 [50] Orecchia，L.，Sachdeva，S.，Vishnoi，N.K.：平衡分离器的指数近似、lanczos方法和一个Ф（m）-时间谱算法。摘自：H.J.Karloff，T.Pitassi（eds.）《第44届计算理论研讨会论文集》，STOC 2012，美国纽约州纽约市，2012年5月19日至22日，第1141-1160页。ACM（2012）。doi:10.1145/2213977.2214080·Zbl 1286.05099号 [51] Osborne，MR，《优化和数据分析中的有限算法》（1985），美国纽约：John Wiley&Sons公司，美国纽约·Zbl 0573.65044号 [52] Perko，L.，微分方程和动力系统（2000），柏林：施普林格科学与商业媒体，柏林·Zbl 0717.34001号 [53] Rao，BD；Kreutz-Delgado，K.，最佳基选择的仿射缩放方法，IEEE Trans。信号处理。，47, 1, 187-200 (1999) ·Zbl 0984.94010号 ·数字对象标识代码：10.1109/78.738251 [54] Sherman，J.：几乎线性时间内的最大流量。摘自：第54届IEEE计算机科学基础年会，FOCS 2013，2013年10月26-29日，美国加利福尼亚州伯克利，第263-269页（2013）。doi:10.1009/FOCS.2013.36 [55] 斯皮尔曼，DA，《算法、图论和拉普拉斯线性方程的解》，ICALP，2，24-26（2012）·Zbl 1367.68337号 [56] Spielman，D.A.，Teng，S.：用于图划分、图稀疏化和求解线性系统的近线性时间算法。2004年6月13日至16日，美国伊利诺伊州芝加哥市，第36届美国计算机学会计算理论年会论文集，第81-90页（2004）。doi:10.1145/1007352.1007372·Zbl 1192.65048号 [57] 弗吉尼亚州斯托尼克；Alexander，ST，递归最小二乘更新和同伦延拓方法之间的关系，IEEE Trans。信号处理。，39, 2, 530-532 (1991) ·数字对象标识代码：10.1109/78.80849 [58] Straszak，D.，Vishnoi，N.K.：关于线性规划的自然动力学。In:ACM理论计算机科学创新（2016）·Zbl 1410.68126号 [59] Straszak，D.，Vishnoi，N.K.：IRLS和黏菌：等价和收敛。CoRR.arXiv:1601.02712（2016） [60] Straszak，D.，Vishnoi，N.K.：流动问题的自然算法。摘自：2016年1月10日至12日在美国弗吉尼亚州阿灵顿举行的第二十七届ACM-SIAM离散算法年会论文集，SODA 2016，第1868-1883页。doi:10.1137/1.9781611974331.ch131（2016）·Zbl 1410.68126号 [61] Teng，S.H.：拉普拉斯范式：大规模图的新兴算法。收录于：TAMC，第2-14页（2010年）·Zbl 1284.05312号 [62] 特罗，A。；小林，R。；Nakagaki，T.，真黏菌寻径中自适应运输网络的数学模型，J.Theor。生物学，244，4553（2007）·兹比尔1450.92052 ·doi:10.1016/j.jtbi.2006.07.015 [63] LG Valiant，Evolvability，J.ACM，56，1，3:1-3:21（2009）·Zbl 1325.68115号 ·doi:10.1145/1462153.1462156 [64] Végh，LA，一类具有可分离凸目标的最小费用流问题的强多项式算法，SIAM J.Compute。，45, 5, 1729-1761 (2016) ·Zbl 1410.91327号 ·doi:10.1137/140978296 [65] NK比什诺伊\({五十} x个=b\），创始人。趋势理论。计算。科学。，8, 1-2, 1-141 (2012) ·Zbl 1280.65003号 [66] 北卡罗来纳州维什诺伊：进化的速度。摘自：第二十届ACM-SIAM离散算法年会论文集，SODA’15，第1590-1601页。工业和应用数学学会，美国宾夕法尼亚州费城（2015）。统一资源定位地址http://dl.acm.org/citation.cfm？id=2722129.2722234 ·Zbl 1371.92099号 [67] Wright，S.：原始-双重内点方法。工业和应用数学学会（1997）·Zbl 0863.65031号 此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。