×

一个不可行的凸二次优化框架,应用于约束简化的内点法和其他方法。 (英语) Zbl 1500.65025号

摘要:提出了一个框架,通过调用现有的可行启动为定制的算法不平等-受约束的CQP。中心工具是一个精确的惩罚函数方案,配有惩罚参数更新规则。可行的启动算法只需满足某些一般要求,更新规则也是如此。在温和的假设下,证明了该框架在不等式和等式约束下收敛于CQP,并且以每次迭代可忽略的额外费用,生成了一个不可行证明,以及一个(近似)(ell_1)-最小松弛可行问题的可行点,当给定的问题没有可行的解决方案时。该框架被应用于一种可行的起始约束减少内点算法,该算法先前被证明在不等式约束比变量多(“不平衡”)的问题上具有很高的性能。在随机生成问题和支持向量机分类器训练问题上,报告了与流行代码(OSQP、qpOASES、MOSEK)的数值比较。结果表明,在不平衡问题上,前者通常优于后者。最后,简要考虑了所提出的不可行启动框架在其他可行启动算法中的应用,并在单纯形迭代上进行了测试。

MSC公司:

65千5 数值数学规划方法
90C05(二氧化碳) 线性规划
90C06型 数学规划中的大尺度问题
90C20个 二次规划
90摄氏51度 内部点方法
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] Anczak,T.,《涉及不变凸函数的数学规划问题的精确罚函数法》,欧洲期刊Oper。研究,198,29-36(2009)·Zbl 1163.90792号 ·doi:10.1016/j.ejor.2008.07.031
[2] 安德森,E.D.,安德森,K.D.:线性规划的MOSEK内点优化器:同质算法的实现。In:Frenk,H.,Roos,K.,Terlaky,T.,Zhang,S.(编辑)《高性能优化》。应用优化,第33卷。斯普林格,波士顿,马萨诸塞州(2000年)。doi:10.1007/978-14757-3216-08·Zbl 1028.90022号
[3] 安德森,ED;Roos,C。;Terlaky,T.,关于实现二次曲线二次优化的原对偶内点方法,数学。程序。,95, 2, 249-277 (2003) ·Zbl 1030.90137号 ·文件编号:10.1007/s10107-002-0349-3
[4] JAE Andersson;Gillis,J。;霍恩,G。;罗林斯,JB;Diehl,M.,CasADi-非线性优化和最优控制的软件框架,数学。程序。计算。,11, 1, 1-36 (2019) ·Zbl 1411.90004号 ·数字对象标识代码:10.1007/s12532-018-0139-4
[5] Anstreicher,K.,一种标准形式变体,用于改进的Karmarkar算法Math的安全行搜索。程序。,47, 337-351 (1990) ·Zbl 0708.90046号 ·doi:10.1007/BF01580868
[6] 本森,HY;Shanno,DF,线性规划的温启动内点方法的精确原对偶惩罚方法,计算。最佳方案。申请。,38, 3, 371-399 (2007) ·Zbl 1171.90546号 ·doi:10.1007/s10589-007-9048-6
[7] Bertsekas,D。;Nedic,A。;Ozdaglar,A.,《凸分析与优化》(2003),贝尔蒙特:雅典娜科学出版社·Zbl 1140.90001号
[8] Bertsimas博士。;Tsitsiklis,J.,《线性优化导论》(1997),贝尔蒙特:雅典娜,贝尔蒙特
[9] 博伊德,S。;北卡罗来纳州帕里赫。;Chu,E.,《通过乘数交替方向方法进行分布式优化和统计学习》(2011年),波士顿:Now Publishers Inc,波士顿·Zbl 1229.90122号
[10] 伯德·R。;柯蒂斯,F。;Nocedal,J.,非线性优化的不可行性检测和SQP方法,SIAM J.Optim。,4, 5, 2281-2299 (2010) ·Zbl 1211.90179号 ·doi:10.1137/080738222
[11] 伯德,RH;Nocedal,J。;Waltz,RA,非线性规划的转向精确惩罚方法,Optim。方法软件。,23, 2, 197-213 (2008) ·Zbl 1211.90224号 ·网址:10.1080/10556780701394169
[12] Chapelle,O.,在原始神经计算中训练支持向量机。,19, 5, 1155-1178 (2007) ·Zbl 1123.68101号 ·doi:10.1162/neco.2007.19.5.1155
[13] 科尔曼,T。;Conn,A.,通过精确惩罚方法的非线性规划:渐近分析,数学。程序。,24, 123-136 (1982) ·Zbl 0501.90078号 ·doi:10.1007/BF01585100
[14] Conn,A.,使用不可微罚函数的约束优化,SIAM J.Numer。分析。,10, 4, 760-784 (1973) ·兹比尔0259.90039 ·数字对象标识代码:10.1137/0710063
[15] 连接器,AR;Mongeau,M.,不连续分段线性优化,数学。程序。,80, 3, 315-380 (1998) ·Zbl 0901.90163号 ·doi:10.1007/BF01581171
[16] 库利巴利,Z。;Orban,D.,具有互补约束的数学程序的l1弹性内点方法,SIAM J.Optim。,22, 187-211 (2012) ·Zbl 1252.90047号 ·doi:10.1137/090777232
[17] Di Pillo,G。;法奇尼,F。;Grippo,L.,使用可微精确罚函数求解不等式约束问题的RQP算法,数学。程序。,25, 49-68 (1992) ·兹比尔0767.90060 ·doi:10.1007/BF01581190
[18] 费罗,HJ;柯奇斯,C。;Potschka,A。;博克,HG;Diehl,M.,qpOASES:二次规划的参数活动集算法,数学。程序。计算。,6, 4, 327-363 (2014) ·Zbl 1302.90146号 ·doi:10.1007/s12532-014-0071-1
[19] 罚款,S。;Scheinberg,K.,《使用低阶核表示的高效SVM训练》,J.Mach。学习。第2号决议,243-264(2001年)·Zbl 1037.68112号
[20] Gertz,E.M.,Griffin,J.D.:大型数据集的支持向量机分类器。技术报告ANL/MCS-TM-289,阿贡国家实验室(2005)。doi:10.2172/881587
[21] 哈桑,H。;Baharum,A.,解决涉及invex函数的光滑非线性规划的广义对数惩罚函数法,阿拉伯J.基础应用。科学。,26, 202-214 (2019) ·doi:10.1080/25765299.2019.1600317
[22] He,M.:线性和凸二次优化的不可行约束约简。马里兰大学博士论文(2011年)。http://hdl.handle.net/1903/12772。2019年访问
[23] 他,我的;Tits,AL,线性优化的不可行约束简化内点方法,Optim。方法软件。,27, 4-5, 801-825 (2012) ·Zbl 1276.90083号 ·doi:10.1080/10556788.2011.589056
[24] Hettich,C.B.S.,Merz,C.:机器学习数据库的UCI存储库(1998)。网址:http://www.ics.uci.edu/mlearn/MLRepository.html。2019年访问
[25] Hungerländer,P.:凸二次规划算法。克拉根福阿尔卑斯大学博士论文(2009年)
[26] Jung,J.H.,O'Leary,D.P.,Tits,A.L.:训练支持向量机的自适应约束约简。电子。事务处理。数字。分析。31, 156-177 (2008) ·Zbl 1177.90308号
[27] Jung,J.H.,O'Leary,D.P.,Tits,A.L.:凸二次规划的自适应约束约简。计算。最佳方案。申请。51(1), 125-157 (2012) ·Zbl 1245.90082号
[28] Laiu,M。;Tits,A.,一种用于凸二次规划的约束简化MPC算法,带有改进的活动集识别方案,Compute。最佳方案。申请。,72, 727-768 (2019) ·Zbl 1420.90042号 ·doi:10.1007/s10589-019-00058-0
[29] 马图塞克,J。;Gärtner,R.,《理解和使用线性规划》(2007),纽约:Springer,纽约·Zbl 1133.90001号
[30] 梅恩,DQ;Polak,E.,等式和不等式约束优化问题的可行方向算法,数学。程序。,11, 1, 67-80 (1976) ·Zbl 0351.90067号 ·doi:10.1007/BF01580371
[31] Mehrotra,S.,关于原对偶内点方法的实现,SIAM J.Optim。,2, 4, 575-601 (1992) ·Zbl 0773.90047号 ·doi:10.1137/0802028年
[32] 甜瓜,T。;马蒂亚斯,J。;Monteiro,M.,《解决MPCC问题的惩罚方法》,J.Math。分析。,7, 1, 91-101 (2016) ·Zbl 1362.90351号
[33] 蒙特罗,R。;Adler,I.,遵循原对偶算法的内部路径。第二部分:凸二次规划,数学。程序。,44, 43-66 (1989) ·Zbl 0676.90039号 ·doi:10.1007/BF01587076
[34] 波拉克,E。;He,L.,半无限优化可行方向的统一可操纵第一阶段第二阶段方法,J.Optim。理论应用。,69, 1, 83-107 (1991) ·Zbl 0702.90087号 ·doi:10.1007/BF00940462
[35] 波拉克,E。;Tits,AL,一种具有自动惩罚限制的全局收敛、可实现的乘数方法,应用。数学。最佳。,6, 1, 335-360 (1980) ·Zbl 0445.90070号 ·doi:10.1007/BF01442901
[36] Polak,E。;特拉汉,R。;Mayne,DQ,第一阶段-第二阶段可行方向组合方法,数学。程序。,17, 1, 61-73 (1979) ·Zbl 0407.90076号 ·doi:10.1007/BF01588225
[37] Schölkopf,B。;斯莫拉,AJ;Bach,F.,《使用内核学习:支持向量机、正则化、优化和超越》(2002),剑桥:麻省理工学院出版社,剑桥
[38] 斯特拉托,B。;Banjac,G。;Goulart,P。;Bemporad,A。;Boyd,S.,OSQP:二次规划的算子分裂解算器,数学。程序。计算。,12, 4, 637-672 (2020) ·Zbl 1452.90236号 ·doi:10.1007/s12532-020-00179-2
[39] Tits,A。;瓦希特,A。;巴赫蒂亚里,S。;Urban,T。;Lawrence,C.,非线性规划的一种具有强全局和局部收敛性的原对偶内点方法,SIAM J.Optimiz。,14, 1, 173-199 (2003) ·Zbl 1075.90078号 ·doi:10.1137/S1052623401392123
[40] Winternitz,L.:具有许多不等式约束的线性规划问题的原对偶内点算法。马里兰大学博士论文(2010年)。http://hdl.handle.net/1903/10400
[41] Wright,S.:关于牛顿/对数贝里法的收敛性。数学。程序。90, 71-100 (2001). doi:10.1007/PL00011421·Zbl 0986.90061号
[42] SJ Wright,《Primal-Doual Interior-Point Methods》(1997年),费城:SIAM,费城·Zbl 0863.65031号 ·doi:10.137/1.9781611971453
[43] Ye,Y.,关于LCP的齐次和自对偶算法,数学。程序。,76, 211-221 (1996) ·Zbl 0881.90116号 ·doi:10.1007/BF02614384
[44] Ye,Y。;托德,M。;Mizuno,S.,An\({O}(\sqrt{n}{L})\)-迭代齐次和自对偶线性规划算法,数学。操作。决议,19,53-67(1994)·Zbl 0799.90087号 ·doi:10.1287/门19.1.53
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。