×

具有非Lipschitz奇异性的部分可分凸约束优化的复杂性。 (英语) Zbl 1411.90318号

摘要:针对目标函数中含有非Lipschitzian范数正则化项的部分可分离凸约束非线性优化问题,提出了一种基于高阶模型的自适应正则化算法。结果表明,该算法使用\(p)阶Taylor模型来满足\(p)奇需求,通常对目标函数及其导数(在定义它们的点上)的评估最多为\(O(ε^{-(p+1)/p})),以产生\(ε)-近似的一阶临界点。这一结果可以通过泰勒模型获得,代价是要求可行集是“核中心”的(包括边界约束和许多其他感兴趣的情况),也可以通过非李普希茨模型获得,但代价是将困难传递给步骤的计算。由于这个复杂度界限与已知的受凸约束的纯李氏极小化的复杂度界限相同[C.购物车等,IMA J.Numer。分析。32,第4号,1662–1695(2012年;Zbl 1267.65061号)]新结果表明,在目标函数中引入非李普希茨奇异性可能不会影响最坏情况下的评估复杂性顺序。结果还表明,使用问题的部分可分结构(如果存在)也不会影响复杂性顺序。对于泰勒模型与一般凸可行集一起使用的情况,导出了最终(最差)复杂度界。

MSC公司:

90立方 非线性规划
90立方厘米 数学规划中的最优性条件和对偶性
65千5 数值数学规划方法
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] W.Bian和X.Chen,Y.Ye,{非Lipschitz和非凸极小化内点算法的复杂性分析},数学。程序。,149(2015),第301-327页·Zbl 1318.90075号
[2] E.G.Birgin、J.L.Gardenghi、J.M.Martínez、S.A.Santos和Ph.L.Toint,{\it使用高阶正则化模型的无约束非线性优化的最坏情况评估复杂性},数学。程序。,163(2017年),第359-368页·Zbl 1365.90236号
[3] C.Cartis、N.I.M.Gould和Ph.L.Toint,{关于最速下降的复杂性,非凸无约束优化的牛顿和正则化牛顿方法},SIAM J.Optim。,20(2010年),第2833-2852页·Zbl 1211.90225号
[4] C.Cartis、N.I.M.Gould和Ph.L.Toint,《无约束优化的自适应三次高估方法》,第二部分:最坏情况下的函数评估复杂性},数学。程序。,130(2011年),第295-319页·兹比尔1229.90193
[5] C.Cartis、N.I.M.Gould和Ph.L.Toint,{凸约束非凸优化的自适应立方正则化算法及其函数估值复杂性},IMA J.Numer。分析。,32(2012),第1662-1695页·Zbl 1267.65061号
[6] C.Cartis、N.I.M.Gould和Ph.L.Toint,《通用正则化方法:改变功率、平滑度和准确性》,技术报告naXys-7-2016,比利时纳穆尔大学纳穆尔复杂系统中心,2016年·Zbl 1436.90136号
[7] X.Chen,D.Ge,Z.Wang,Y.Ye,{无约束的复杂性\(ℓ_2-ℓ_p\)最小化},数学。程序。,143(2014),第371-383页·Zbl 1285.90039号
[8] X.Chen,L.Niu,Y.Y.Yuan,{非Lipschitz优化的最优性条件和光滑信赖域牛顿法},SIAM J.Optim。,23(2013),第1528-1552页·Zbl 1291.90238号
[9] X.Chen,F.Xu,and Y.Ye,{非零项解的下限理论\(ℓ_2-ℓ_p)最小化},SIAM J.Sci。计算。,32(2010年),第2832-2852页·Zbl 1242.90174号
[10] A.R.Conn、N.I.M.Gould、A.Sartenaer和Ph.L.Toint,{使用结构化信赖域的凸约束最小化算法的收敛性},SIAM J.Optim。,6(1996),第1059-1086页·兹伯利0868.90106
[11] A.R.Conn、N.I.M.Gould和Ph.L.Toint,《语言:大规模非线性优化的Fortran包(A版)》,Springer Ser。计算。数学。17,施普林格,柏林,1992年·Zbl 0761.90087号
[12] {\lang1033A.R.Conn、N.I.M.Gould和Ph.L.Toit,{\lang1033\f5信托区域方法}{\lang1033MPS-SIAM系列。最佳。,宾夕法尼亚州费城SIAM,2000年·Zbl 0958.65071号
[13] R.Forer、D.M.Gay和B.W.Kernighan,《AMPL:数学编程语言》,计算机科学技术报告,美国电话电报公司贝尔实验室,新泽西州默里山,1987年·Zbl 0701.90062号
[14] D.M.Gay,{自动发现和利用非线性规划问题中的部分可分离结构},技术报告,贝尔实验室,新泽西州默里山,1996年。
[15] D.Goldfarb和S.Wang,{一元、可分解和部分可分离优化的部分更新牛顿法},SIAM J.Optim。,3(1993),第382-397页·Zbl 0784.90075号
[16] N.I.M.Gould、J.Hogg、T.Rees和J.Scott,《解决非线性最小二乘问题》,技术报告,卢瑟福阿普尔顿实验室,英国奇尔顿,2016年。
[17] N.I.M.Gould,D.Orban和Ph.L.Toint,{it\sf CUTEst:一个有约束和无约束的测试环境,具有用于数学优化的安全线程},计算。最佳方案。申请。,60(2015),第545-557页·Zbl 1325.90004号
[18] N.I.M.Gould和Ph.L.Toint,{it\sf FILTRANE,一个用于求解非线性等式系统、非线性不等式和非线性最小二乘问题}的Fortran 95过滤区域软件包,ACM Trans。数学。《软件》,33(2007),第3-25页。
[19] G.Grapiglia和Yu。Nesterov,{\it Hoölder连续Hessians}最小化函数的正则化牛顿方法,SIAM J.Optim。,27(2017),第478-506页·Zbl 1406.49029号
[20] A.Griewank,{通过有界三次项修改牛顿无约束优化方法},技术报告NA/12,剑桥大学应用数学和理论物理系,1981年。
[21] A.Griewank和Ph.L.Toint,《论部分可分函数的无约束优化》,载于《非线性优化》1981年,M.J.D.Powell主编,学术出版社,伦敦,1982年,第301-312页·Zbl 0563.90085号
[22] J.Huang、J.L.Horowitz和S.Ma,稀疏高维回归模型中桥梁估计量的渐近性质,Ann.Statist。,36(2018),第587-613页·Zbl 1133.62048号
[23] 刘玉凤,马顺华,戴玉华,张顺华,{it-一类多面体上复合(L_q)极小化的光滑SQP框架,数学。程序。,158(2016),第467-500页·兹比尔1346.90684
[24] J.Mareček、P.Richtaárik和M.Takaác \780],{\it Distributed Block Coordinate Descent for Minimizing Partially Separable Functions},技术报告,爱丁堡大学数学与统计系,爱丁伯格,2014年·Zbl 1330.65089号
[25] J.M.Martiínez,{\it On high order model regulationation for constrained optimization},SIAM J.Optim。,27(2017),第2447-2458页·Zbl 1387.90200号
[26] 于。Nesterov和B.T.Polyak,{牛顿方法的立方正则化及其全局性能},数学。程序。,108(2006),第177-205页·Zbl 1142.90500
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。