Boris Houska先生;珍妮克·弗雷什;莫里茨·迪尔 一种基于增广拉格朗日算法的分布式非凸优化。 （英语） Zbl 1345.90069号 SIAM J.优化。 26，第2期，1101-1127（2016）. 摘要：本文讨论基于分布式导数的算法，用于解决具有可分离（潜在非凸）目标函数和耦合仿射约束的优化问题。结合序列二次规划和增广拉格朗日算法的思想，提出了一种并行化方法。该方法协商可解释为价格的共享对偶变量，这是对偶分解方法和交替方向乘数法（ADMM）中使用的概念。在这里，每个代理解决自己的小规模非线性规划问题，并通过求解耦合二次规划问题与其他代理进行通信。这些耦合二次规划问题具有等式约束，可采用并行化方法。使用与标准序列二次规划方法相关的技术，可以在适当的条件下获得超线性或二次收敛速度的方法。这与现有的分解方法（如ADMM）形成对比，ADMM具有线性收敛速度。它显示了如何使用全球化技术来扩展所提出的算法，以确保从任何初始点收敛到局部极小值。 引用于20文件 理学硕士： 90C26型 非凸规划，全局优化 90C06型 数学规划中的大尺度问题 68宽15 分布式算法 关键词：非凸优化;大规模问题;分布式算法 软件：qpDUNES公司;SNOPT公司;兰斯洛特;加拉哈德;线性代数库 PDF格式BibTeX公司 XML格式引用 \textit{B.Houska}等人，SIAM J.Optim。26，第2号，1101--1127（2016；Zbl 1345.90069） 全文： 内政部 链接 参考文献： [1] R.Andreani、E.G.Birgin、J.M.Martinez和M.L.Schuverdt，{关于一般低层约束的增广拉格朗日方法}，SIAM J.Optim。，18（2007年），第1286-1309页·Zbl 1151.49027号 [2] D.P.Bertsekas，{非凸优化问题的凸化过程和分解方法}，J.Optim。理论应用。，29（1979），第169-197页·Zbl 0389.90080号 [3] D.P.Bertsekas，{约束优化和拉格朗日乘子方法}，学术出版社，纽约，1982年·Zbl 0572.90067号 [4] D.P.Bertsekas和J.N.Tsitsiklis，{并行和分布式计算：数值方法}，Prentice-Hall，Englewood Cliffs，NJ，1989年·Zbl 0743.65107号 [5] D.P.Bertsekas，《非线性规划》，第二版，雅典娜科学出版社，马萨诸塞州贝尔蒙特，1999年·Zbl 1015.90077号 [6] P.T.Boggs和J.W.Tolle，《序贯二次规划》，《数值学报》。，4（1996），第1-51页·兹比尔0828.65060 [7] J.F.Bonnans和A.Shapiro，《优化问题的扰动分析》，Springer，海德堡，2000年·Zbl 0966.49001号 [8] S.Boyd和L.Vandenberghe，《凸优化》，剑桥大学出版社，英国剑桥，2004年·Zbl 1058.90049号 [9] S.Boyd、N.Parikh、E.Chu、B.Peleato和J.Eckstein，《通过交替方向乘数法进行分布式优化和统计学习》，Found。《机器学习趋势》，3（2011），第1-122页·Zbl 1229.90122号 [10] A.Buttari、J.Langou、J.Kurzak和J.J.Dongarra，{一类用于多核体系结构的并行分片线性代数算法}，Parellel Compute。系统。申请。，35（2009年），第38-53页。 [11] R.Chamberlain，C.Lemareíchal，H.C.Pedersen，and M.J.D.Powell，{\it强制约束优化算法收敛的看门狗技术}，数学。程序。，16（1982），第1-17页·Zbl 0477.90072号 [12] G.Chen和M.Teboulle，{凸极小化问题的基于近似的分解方法}，数学。程序。，64（1994），第81-101页·Zbl 0823.90097号 [13] J.Choi、J.J.Dongarra、L.S.Ostrochov、A.P.Petit、D.W.Walker和R.C.Whaley，ScaLAPACK-LU、QR和Cholesky因式分解例程的设计和实现，Sci。程序。，5（1996），第173-184页。 [14] H.Chung，E.Polak和S.Sastry，{解决最优控制问题的外部活动集策略}，IEEE Trans。自动化。控制，54（2009），第1129-1133页·Zbl 1367.49025号 [15] G.Cohen，{优化决定论中的分解与协调，可微与不可微}，《These d’eta》，巴黎多芬大学，法国，1984年。 [16] T.F.Coleman和A.R.Conn，《通过精确罚函数实现非线性规划：渐近分析》，数学。程序。，24（1982），第123-136页·Zbl 0501.90078号 [17] A.R.Conn、N.I.M.Gould和P.L.Toint，《语言：大规模非线性优化的FORTRAN包》（A版），Springer Ser。计算。数学。17，Springer-Verlag，纽约，1992年·Zbl 0761.90087号 [18] M.Diehl、A.Walther、H.G.Bock和E.Kostina，{一种基于伴随的SQP算法，用于不等式约束优化}，Optim。方法软件。，25（2010年），第531-552页·Zbl 1197.49034号 [19] J.Eckstein和D.P.Bertsekas，{关于Douglas-Rachford分裂方法和最大单调算子的近点算法}，数学。程序。，55（1992），第293-318页·Zbl 0765.90073号 [20] J.Eckstein和M.C.Ferris，单调仿射变分不等式的算子分裂方法，及其在最优控制中的并行应用，INFORMS J.Compute。，10（1998年），第218-235页·Zbl 1034.90531号 [21] H.Everett，{解决资源优化配置问题的广义拉格朗日乘子法}，Oper。Res.，11（1963），第399-417页·Zbl 0113.14202号 [22] J.Fan和Y.X.Yuan，{关于无非奇异性假设的Levenberg-Marquardt方法的二次收敛}，《计算》，74（2005），第23-39页·兹比尔1076.65047 [23] H.J.Ferreau、H.G.Bock和M.Diehl，《克服显式MPC局限性的在线活动集策略》，国际出版社。J.鲁棒非线性控制，18（2008），第816-830页·Zbl 1284.93100号 [24] H.J.Ferreau、A.Kozma和M.Diehl，《求解MPC}中出现的稀疏参数二次规划的并行活动集策略》，第四届IFAC非线性模型预测控制会议论文集，2012年。 [25] J.V.Frasch、S.Sager和M.Diehl，{并行二次规划。动态优化问题的方法}，数学。程序。计算。，2015年，Doi:10.1007/s12532-015-0081-7·Zbl 1321.90094号 [26] J.V.Frasch，{\it qpDUNES}，网址：http://mathopt.de/qpDUNES。 [27] M.P.Friedlander和M.A.Saunders，{非线性优化的全局收敛线性约束拉格朗日方法}，SIAM J.Optim。，15（2005）第863-897页·Zbl 1077.90065号 [28] D.Gabay和B.Mercier，{通过有限元近似解非线性变分问题的对偶算法}，计算。数学。申请。，2（1976），第17-40页·Zbl 0352.65034号 [29] P.E.Gill、W.Murray和M.A.Saunders，《SNOPT:大规模约束优化的SQP算法》，SIAM J.Optim。，12（2002）第979-1006页·Zbl 1027.90111号 [30] P.E.Gill和D.P.Robinson，{它是原对偶增广拉格朗日}，计算。最佳方案。申请。，51（2010），第1-25页·Zbl 1244.90219号 [31] P.E.Gill和D.P.Robinson，{全局收敛稳定SQP方法}，SIAM J.Optim。，23（2013），第1983-2010页·Zbl 1285.49023号 [32] P.Giselsson和A.Rantzer，{具有次优和稳定性保证的分布式模型预测控制}，《第49届IEEE决策与控制会议论文集》，2010年·Zbl 1360.93389号 [33] P.Giselsson、M.Dang Doan、T.Keviczky、B.De Schutter和A.Rantzer，{分布式模型预测控制中的加速梯度方法和双重分解}，Automatica，49（2013），第829-833页·Zbl 1267.93046号 [34] R.Glowinski和A.Marrocco，{\it Sur l'approximation，par elements finish d'ordre un，et la resolution，par penalisation dimediate，'une clase de problems de Dirichlet non-lineares}，Rev.Francaise Automati。通知。Recherche Oper.公司。，9（1975年），第41-76页·Zbl 0368.65053号 [35] T.Goldstein、B.O'Donoghue和S.Setzer，{快速交替方向优化方法}，技术报告，加州大学洛杉矶分校数学系，2012年·Zbl 1314.49019号 [36] N.I.M.Gould、D.Orban和P.Toint，｛\it GALAHAD，一个用于大规模非线性优化的线程安全Fortran\（90\）包库｝，ACM Trans。数学。《软件》，29（2004），第353-372页·Zbl 1068.90525号 [37] A.Hamdi和S.K.Mishra，《基于增广拉格朗日的分解方法：调查》，《非凸优化主题》，S.K.Mishra编辑，Springer Optim。申请。50，Springer，纽约，第175-204页·Zbl 1247.90249号 [38] S.P.Han，{它是非线性规划的一种全局收敛方法}，J.Optim。理论应用。，22（1977年），第297-309页·Zbl 0336.90046号 [39] M.R.Hestenes，{乘数和梯度法}，J.Optim。理论应用。，4（1969年），第302-320页·Zbl 0174.20705号 [40] B.Houska和M.Diehl，{微分代数方程最优控制的二次收敛非精确SQP方法}，最优控制应用。方法，34（2012），第96-414页·Zbl 1292.90223号 [41] A.Iusem，{凸优化的增广拉格朗日方法和近点方法}，Investigacioín Operativa，8（1999），第11-49页。 [42] A.Kozma、J.Frasch和M.Diehl，{分布式系统最优控制中产生的凸二次规划问题的分布式方法}，《第52届IEEE决策与控制会议论文集》，2013年，第1526-1531页。 [43] A.Kozma、C.Conte和M.Diehl，{大规模分布式凸二次规划算法的基准测试}，Optim。方法软件。，30（2015），第191-214页·兹比尔1321.49046 [44] B.Lemaire，{\it近似算法}，国际。序列号。数字。数学。，Birkha¨user Verlag，巴塞尔，1989年，第73-87页·Zbl 0692.90079号 [45] 李文华，J.斯威提茨，{一种求解严格凸二次规划的新算法}，SIAM J.Optim。，7（1997），第595-619页·Zbl 0891.90133号 [46] N.Maratos，{有限维和控制优化问题的精确Penaly函数算法}，伦敦帝国学院博士论文，1978年。 [47] D.Q.Mayne和E.Polak，{解无穷维不等式的二次收敛算法}，J.Appl。数学。最佳。，9（1982），第25-40页·Zbl 0522.65045号 [48] I.Necoara和J.A.K.Suykens，{光滑技术在凸优化分解中的应用}，IEEE Trans。自动化。控制，53（2008），第2674-2679页·Zbl 1367.90085号 [49] I.Necoara，D.Doan和J.A.K.Suykens，{近端中心分解方法在分布式模型预测控制中的应用}，《第47届IEEE决策与控制会议论文集》，2008年，第2900-2905页。 [50] I.Necoara、C.Savorgnan、Q.Tran Dinh、J.A.K.Suykens和M.Diehl，{使用顺序凸规划和平滑技术的分布式非线性最优控制}，《第48届IEEE决策与控制会议论文集》，2009年，第543-548页。 [51] I.Necoara和J.A.K.Suykens，{可分离凸优化的内点拉格朗日分解方法}，J.Optim。理论应用。，143，（2009）第567-588页·邮编：1184.90126 [52] J.Nocedal和S.J.Wright，《数值优化》，第二版，Springer Ser。操作。Res.财务。工程师斯普林格，纽约，2006年·Zbl 1104.65059号 [53] B.O’Donoghue、G.Stathopoulos和S.Boyd，｛\it最优控制的分裂方法｝，IEEE Trans。《控制系统技术》，21（2013），第2432-2442页。 [54] N.Parikh和S.Boyd，{\it近似算法}，发现最佳趋势。，1（2013），第123-231页。 [55] M·J·D·鲍威尔（M.J.D.Powell），《极小化问题中非线性约束的一种方法》（The method for nonlinear constraints in minimization problems），收录于《最优化》（Optimization），R·弗莱彻（R.Fletcher）主编，学术出版社，纽约，1969年·Zbl 0194.47701号 [56] M.J.D.Powell，{它是非线性约束优化计算的快速算法}。数值分析，数学课堂讲稿。30，G.A.Watson编辑，Springer Verlag，柏林，1977年，第144-157页。 [57] M.J.D.Powell，《非线性程序中非线性约束优化计算的变尺度方法的收敛性》。3，（1978），第27-63页。 [58] A.Rantzer，{分布式控制的动态双重分解}，《2009年美国控制会议论文集》，2009年，第884-888页。 [59] S.Richter、M.Morari和C.N.Jones，{基于拉格朗日松弛和快速梯度法的约束MPC的计算复杂性证明}，《第50届IEEE决策与控制会议和欧洲控制会议（CDC-ECC）论文集》，2011年。 [60] R.T.Rockafellar，{凸分析}，普林斯顿数学。序列号。，28，普林斯顿大学出版社，普林斯顿。1970. ·Zbl 0193.18401号 [61] K.Schittkowski，{它是一种用于求解200000000个{它的非线性约束}优化问题的主动集策略，应用。数字。数学。，59（2009），第2999-3007页·Zbl 1173.65044号 [62] A.Shapiro和J.Sun，{锥约束优化中增广拉格朗日的一些性质}，数学。Oper Res.，29（2004），第479-491页·Zbl 1082.90109号 [63] J.Ruöckmann和A.Shapiro，{半无限规划中的增广拉格朗日}，数学。程序。，序列号。B、 116（2009）第499-512页·Zbl 1165.90030号 [64] G.Stephanopulos和A.W.Westerberg，《利用Hestenes的乘数方法解决工程系统优化中的双重缺口》，J.Optim。理论应用。，15（1975年），第285-309页·Zbl 0278.49040号 [65] F.Song、A.YarKhan和J.Dongarra，{分布式内存多核系统上线性代数算法的动态任务调度}，《高性能计算网络、存储和分析会议论文集》，纽约，2009年。第1-11页。 [66] A.Tanikawa和H.Mukai，{大规模可分离优化问题的非凸原对偶分解的新技术}，IEEE Trans。自动化。《控制》，30（1985），第133-143页·Zbl 0553.90087号 [67] R.A.Tapia，{等式约束优化的准Newton方法：现有方法的等价性和新的实现}，非线性程序。3，O.Mangasarian、R.Meyer和S.Robinson主编，学术出版社，纽约，1978年，第125-164页·Zbl 0469.49026号 [68] P.Tatjewski和B.Engelmann，{带约束的大规模非凸优化问题的二层原对偶分解技术}，J.Optim。理论应用。，64（1990年），第183-205页·兹比尔0713.90059 [69] P.Toint，{\it关于线性方程下稀疏对称矩阵的更新}，数学。计算。，31（1977年），第954-961页·兹伯利0379.65034 [70] Q.Tran-Dinh、I.Necoara、C.Savorgnan和M.Diehl，{大尺度可分离凸优化中拉格朗日分解的非精确扰动路径跟踪方法}，SIAM J.Optimization，23（2013），第95-125页·Zbl 1284.90049号 [71] Q.Tran Dinh，I.Necoara和M.Diehl，{使用惩罚函数框架}的可分离非凸优化的双重分解算法，《第52届IEEE决策与控制会议论文集》，2013年，第2372-2377页。 [72] H.Uzawa，{凹规划的迭代方法}，收录于《线性和非线性规划研究》，K.Arrow，L.Hurwicz和H.Uzawa，eds.，1958年，斯坦福大学出版社，加利福尼亚州斯坦福，第154-165页。 [73] H.Uzawa，《市场机制和数学规划》，《计量经济学》，J.，28（1960），第872-881页·Zbl 0098.33602号 [74] N.Watanabe、Y.Nishimura和M.Matsubara，{使用乘数法在大系统优化中的分解}，J.Optim。理论应用。，25（1978年），第181-193页·Zbl 0363.90105号 [75] R.B.Wilson，{凹规划的简单算法}，哈佛大学工商管理研究生院博士论文，1963年。 此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。