×

广义信赖域子问题的新格式和有效算法。 (英语) Zbl 1421.90105号

摘要:我们提出了一种新的求解框架来求解二次约束下二次目标极小化的广义信赖域子问题(GTRS)。更具体地说,我们通过最小化GTRS在两个凸二次约束下的线性目标,导出了一个凸二次元格式(CQR)。我们证明了GTRS的最优解可以从CQR的最优解中恢复出来。我们进一步证明了该CQR等价于最小化从CQR导出的两个凸二次函数的最大值。尽管后一个极大极小问题是非光滑的,但它是结构良好且凸的。因此,我们开发了两种对应于两种不同线搜索规则的最速下降算法。我们证明了这两种算法的全局次线性收敛速度。我们还通过在温和条件下估计任意最优解的Kurdyka-Łojasiewicz指数,获得了第一种算法的局部线性收敛速度。最后通过数值实验验证了算法的有效性。

MSC公司:

90C20个 二次规划
90C25型 凸面编程
90C26型 非凸规划,全局优化
90立方 非线性规划
90立方厘米 数学规划中的极小极大问题
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] P.-A.Absil、R.Mahony和R.Sepulchre,矩阵流形上的优化算法,普林斯顿大学出版社,新泽西州普林斯顿,2009年·Zbl 1147.65043号
[2] S.Adachi、S.Iwata、Y.Nakatsukasa和A.Takeda,用广义特征值问题求解信赖域子问题、SIAM J.Optim.、。,27(2017),第269-291页,https://doi.org/10.1137/16M1058200。 ·Zbl 1359.49009号
[3] S.Adachi和Y.Nakatsukasa,基于特征值的单约束非凸QCQP算法及分析,数学。程序。,173(2019),第70-116页,https://doi.org/10.1007/s10107-017-1206-8。 ·Zbl 1411.90246号
[4] H.Attouch和J.Bolt,关于含有解析特征的非光滑函数的近似算法的收敛性,数学。程序。,116(2009),第5-16页·Zbl 1165.90018号
[5] A.Ben-Tal和D.den Hertog,一些非凸二次优化问题的隐二次曲线表示,数学。程序。,143(2014),第1-29页·Zbl 1295.90036号
[6] A.Ben-Tal、L.El Ghaoui和A.Nemirovski,稳健优化,普林斯顿大学出版社,新泽西州普林斯顿,2009年·Zbl 1221.90001号
[7] A.Ben-Tal和A.Nemirovski,现代凸优化讲座:分析、算法和工程应用,MOS-SIAM系列。最佳方案。2,宾夕法尼亚州费城SIAM,2001年·Zbl 0986.90032号
[8] A.Ben-Tal和M.Teboulle,一类非凸二次约束二次规划的隐凸性,数学。程序。,72(1996),第51-63页·Zbl 0851.90087号
[9] J.Bolte、T.P.Nguyen、J.Peypouquet和B.W.Suter,凸函数一阶下降法的误差界与复杂性,数学。程序。,165(2017),第471-507页·Zbl 1373.90076号
[10] S.Boyd和A.Mutapcic,子渐变方法,EE364b的讲义,斯坦福大学,2006/7年冬季学期。
[11] S.Burer和F.K\il\inç-Karzan,如何凸化二阶锥与非凸二次型的交集,数学。程序。,162(2017),第393-429页·Zbl 1358.90095号
[12] A.R.Conn、N.I.Gould和P.L.Toint,信任域方法,MOS-SIAM系列。最佳方案。1,宾夕法尼亚州费城SIAM,2000年·Zbl 0958.65071号
[13] J.-M.Feng、G.-X.Lin、R.-L.Sheu和Y.Xia,单一非齐次二次约束下二次规划的对偶性及其解、J.Global Optim.、。,54(2012),第275-293页·Zbl 1281.90032号
[14] O.E.Flippo和B.Jansen,椭球面上非凸二次优化的对偶性和灵敏度《欧洲期刊》。Res.,94(1996),第167-178页·Zbl 0930.90076号
[15] C.Fortin和H.Wolkowicz,信赖域子问题与半定规划,最佳。方法软件。,19(2004),第41-67页·Zbl 1070.65041号
[16] B.Gao、X.Liu、X.Chen和Y.-X.Yuan,关于二次球约束优化问题的Łojasiewicz指数,预打印,https://arxiv.org/abs/1611.08781, 2016.
[17] G.Golub和Q.Ye,对称广义特征值问题的无逆预处理Krylov子空间方法,SIAM J.科学。计算。,24(2002),第312-334页,https://doi.org/10.1137/S1064827500382579。 ·Zbl 1016.65017号
[18] N.I.M.Gould、D.P.Robinson和H.S.Thorne,优化中信任域及其他正则化子问题的求解,数学。程序。计算。,2(2010年),第21-57页,https://doi.org/10.1007/s12532-010-0011-7。 ·Zbl 1193.65098号
[19] M.Grant和S.Boyd,CVX:MATLAB规则凸规划软件2.1版,http://cvxr.com/cvx(2014年3月)。
[20] C.-H.Guo、N.J.Higham和F.Tisseur,一种检测确定埃尔米特对的改进arc算法,SIAM J.矩阵分析。申请。,31(2010),第1131-1151页·兹比尔1202.65054
[21] E.Hazan和T.Koren,信赖域问题的线性时间算法,数学。程序。,158(2016),第363-381页,https://doi.org/10.1007/s10107-015-0933-y。 ·Zbl 1346.90654号
[22] H.嗯,一个二次等式约束的二次优化,技术报告DSTO-TR-2416,澳大利亚国防科技组织作战与雷达部,2010年。
[23] N.Ho-Nguyen和F.Kilinç-Karzan,求解信赖域子问题及其变型的二阶锥方法、SIAM J.Optim.、。,27(2017),第1485-1512页·Zbl 1370.90170号
[24] Y.Hsia、G.-X.Lin和R.-L.Sheu,用矩阵束重温一不等式二次约束二次规划,太平洋。J.Optim。,10(2014),第461-481页·Zbl 1327.90168号
[25] K.Huang和N.D.Sidiropoulos,一般二次约束二次规划的Consensus-ADMM,IEEE传输。信号处理。,64(2016),第5297-5310页·Zbl 1414.90256号
[26] IBM、,ILOG CPLEX优化器, http://www.ibm.com/software/commerce/optimization/cplexoptimizer, 2017.
[27] V.Jeyakumar和G.Li,线性不等式约束的信赖域问题:精确SDP松弛、全局最优和鲁棒优化,数学。程序。,147(2014),第171-206页·Zbl 1297.90105号
[28] R.Jiang、D.Li和B.Wu,广义信赖域子问题的SOCP格式,数学。程序。,169(2018),第531-563页·Zbl 1390.90416号
[29] G.Li、B.S.Mordukhovich和T.Pham,多项式系统的新分数误差界及其在优化和张量谱理论中的Holder稳定性中的应用,数学。程序。,153(2015),第333-362页·兹比尔1327.90237
[30] G.Li和T.K.Pong,Kurdyka-Łojasewicz不等式的指数计算及其在一阶方法线性收敛中的应用,找到。计算。数学。,18(2018),第1199-1232页,https://doi.org/10.1007/s10208-017-9366-8。 ·Zbl 1405.90076号
[31] 李伟,分段凸二次规划的误差界及其应用SIAM J.控制优化。,33(1995年),第1510-1529页·Zbl 0836.90125号
[32] H.Liu、W.Wu和A.M.-C.那么,正交约束二次优化:显式Lojasiewicz指数和线性搜索方法的线性收敛性,《2016年机器学习国际会议论文集》,Proc。马赫。学习。2016年第48号决议,第1158-1167页;可在获取http://processes.mlr.press/v48/。
[33] Z.-Q.Luo和J.F.Sturm,二次系统的误差界《高性能优化》,应用。最佳方案。33,Springer,纽约,2000年,第383-404页·Zbl 1043.90552号
[34] J.M.Marti⁄nez,欧氏球和球面上二次函数的局部极小元、SIAM J.Optim.、。,4(1994年),第159-176页·Zbl 0801.65057号
[35] J.J.莫尔,信赖域问题的推广,最佳。方法软件。,2(1993年),第189-209页。
[36] J.J.Moreí和D.C.Sorensen,计算信任区域步骤,SIAM J.科学。和统计计算。,4(1983年),第553-572页·Zbl 0551.65042号
[37] MOSEK ApS公司,MOSEK优化软件第7.1.0.63版,网址:http://www.mosek.com, 2017.
[38] Y.内斯特罗夫,凸优化导论:基础课程,申请。最佳方案。87,斯普林格,纽约,2003年。
[39] I.Poílik和T.Terlaky,S-引理综述SIAM Rev.,49(2007),第371-418页·Zbl 1128.90046号
[40] T.K.Pong和H.Wolkowicz,广义信赖域子问题,计算。最佳方案。申请。,58(2014),第273-322页·Zbl 1329.90100号
[41] F.Rendl和H.Wolkowicz,信赖域子问题的半定框架及其在大规模极小化中的应用,数学。程序。,77(1997),第273-299页·Zbl 0888.90137号
[42] M.Salahi和A.Taati,求解广义信赖域子问题的一种有效算法,计算。申请。数学。,37(2018),第395-413页·Zbl 1393.90098号
[43] M.Sion,关于一般极小极大定理《太平洋数学杂志》。,8(1958年),第171-176页·Zbl 0081.11502号
[44] R.J.Stern和H.Wolkowicz,不确定信赖域子问题与非对称特征值扰动、SIAM J.Optim.、。,5(1995),第286-313页·Zbl 0846.49017号
[45] J.F.Sturm和S.Zhang,关于非负二次函数的锥,数学。操作。Res.,28(2003),第246-267页·Zbl 1082.90086
[46] J.Wang和Y.Xia,基于隐凸性的信赖域子问题的线性时间算法,最佳。莱特。,11(2017),第1639-1646页·Zbl 1410.90145号
[47] T.Wang和J.-S.Pang,凸二次不等式系统的全局误差界《优化》,31(1994),第1-12页·Zbl 0817.90078号
[48] V.A.雅库波维奇,非线性控制理论中的S过程,维斯顿。列宁。马特·梅赫大学。阿童木。,1(1971年),第62-77页(俄语);维斯特。列宁格勒大学数学系。,4(1977年),第73-93页(英语)·Zbl 0232.93010号
[49] 叶勇,球面约束下二次函数极小化的一个新的复杂性结果《全局优化的最新进展》,普林斯顿大学出版社,新泽西州普林斯顿,1992年,第19-31页。
[50] Y.Yuan,信赖域算法的最新进展,数学。程序。,151(2015),第249-281页·Zbl 1317.65141号
[51] H.Zhang、A.R.Conn和K.Scheinberg,最小二乘最小化的无导数算法、SIAM J.Optim.、。,20(2010年),第3555-3576页·Zbl 1213.65091号
[52] Z.Zhou和A.M.-C.所以,结构化凸优化问题误差界的统一方法,数学。程序。,165(2017),第689-728页·Zbl 1380.65109号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。