×
肖仙桃；李永丰；Wen，Zaiwen先生；张立伟

复合凸规划的带投影步长的正则化半光滑牛顿法。 （英语） Zbl 1394.90534号

科学杂志。计算。 76，第1号，364-389（2018）.
摘要：本文的目标是研究如何弥合复合凸规划的一阶和二阶类型方法之间的差距。我们的主要观察结果是：（1）许多著名的算子分裂方法，如前向背向分裂和Douglas-Rachford分裂，实际上定义了一个不动点映射；（2） 复合凸规划的最优解与由定点映射导出的非线性方程组的解是等价的。求解这类非线性方程组使我们能够发展二阶类型的方法。这些非线性方程可能是不可微的，但它们通常是半光滑的，并且由于单调性，它们的广义雅可比矩阵是半正定的。通过结合正则化方法和已知的超平面投影技术，我们提出了一种自适应半光滑牛顿方法，并证明了其收敛于全局最优。关于\（\ell_1\）-最小化的初步数值结果问题表明，我们的二阶型算法能够实现超线性或二次收敛。

引用于29文件

MSC公司：

90立方 非线性规划
65千5 数值数学规划方法

关键词：

复合凸规划；运算符拆分方法；近端定位；半光滑；牛顿法

软件：

取消锁定BoX；SPGL1型；FPC_AS公司
PDF格式BibTeX公司 XML格式引用
\textit{X.Xiao}等人，《科学杂志》。计算。76，第1号，364--389（2018；Zbl 1394.90534）
全文： 内政部 arXiv公司

参考文献：

[1] Ahookhosh，M；阿米尼，K；Bahrami，S，大型非线性单调方程组的两种无导数投影方法，Numer。算法，64，21-42，（2013）·Zbl 1290.65046号 ·doi:10.1007/s11075-012-9653-z
[2] Bauschke，H.H.，Combettes，P.L.：希尔伯特空间中的凸分析和单调算子理论。施普林格，纽约（2011）·Zbl 1218.47001号 ·doi:10.1007/978-1-4419-9467-7
[3] 博伊德，S；帕里赫，N；楚，E；佩莱托，B；Eckstein，J，《通过交替方向乘数法进行分布式优化和统计学习》，Found。趋势马赫数。学习。，3, 1-122, (2011) ·Zbl 1229.90122号 ·doi:10.1561/220000016
[4] 伯德，RH；总经理Chin；Nocedal，J；Oztoprak，F，凸的一类二阶方法\(ℓ _1）-正则优化，数学。程序。，159, 435-467, (2016) ·兹比尔1350.49046 ·doi:10.1007/s10107-015-0965-3
[5] 陈，C；刘，YJ；太阳，D；Toh，KC，矩阵谱范数逼近问题的基于Newton-CG的半光滑对偶PPA，数学。程序。，155435-470（2016）·Zbl 1342.90100号 ·doi:10.1007/s10107-014-0853-2
[6] 梳形物，PL；Pesquet，J-C；Bauschke，HH（编辑）；Burachik，R（编辑）；组合，PL（编辑）；Elser，V（编辑）；卢克博士（编辑）；Wolkowicz，H（ed.），信号处理中的近距离分裂方法，185-212，（2011），纽约·Zbl 1242.90160号 ·doi:10.1007/978-1-4419-9569-810
[7] 戴维斯，D；阴，W；Glowinski，R（编辑）；Osher，SJ（编辑）；Yin，W（编辑），几种分裂方案的收敛速度分析，115-163，（2016），Cham·Zbl 1372.65168号 ·数字对象标识代码：10.1007/978-3-319-41589-54
[8] 戴维斯，D；Yin，W，放松的peaceman-Rachford和ADMM在正则性假设下的更快收敛速度，数学。操作。决议，42，783-805，（2017）·Zbl 1379.65035号 ·doi:10.1287/门.2016.0827
[9] 卢卡，T；法奇尼，F；Kanzow，C，求解非线性互补问题的半光滑方程方法，数学。程序。，75, 407-439, (1996) ·Zbl 0874.90185号
[10] 道格拉斯，J；Rachford，HH，关于两个和三个空间变量中热传导问题的数值解，Trans。美国数学。Soc.，82，421-439，（1956年）·Zbl 0070.35401号 ·doi:10.1090/S0002-9947-1956-0084194-4
[11] 埃克斯坦，J；Bertsekas，DP，关于Douglas-Rachford分裂方法和最大单调算子的近点算法，数学。程序。，55, 293-318, (1992) ·Zbl 0765.90073号 ·doi:10.1007/BF01581204
[12] Facchinei，F.，Pang，J.-S.：有限维变分不等式和互补问题，第二卷。施普林格，纽约（2003）·Zbl 1062.90001号
[13] 范，JY；袁，YX，关于无非奇异假设下Levenberg-Marquardt方法的二次收敛性，计算，74，23-39，（2005）·Zbl 1076.65047号 ·doi:10.1007/s00607-004-0083-1
[14] 加贝，D；Mercier，B，通过有限元近似解非线性变分问题的对偶算法，计算。数学。申请。，1976年2月17日至40日·Zbl 0352.65034号 ·doi:10.1016/0898-1221（76）90003-1
[15] 格洛温斯基，R；Marrocco，A，Sur l’A approximation，paréments finish d’ordre un，et la résolution，parñnalisation-quality，'une classe de problèmes de Dirichlet nonéaires，Rev.Française Automat。Informat公司。Recherche Opérationnelle Sér。《胭脂分析》。编号。，9, 41-76, (1975) ·Zbl 0368.65053号
[16] 格里斯，R；Lorenz，DA，具有稀疏性约束的Tikhonov泛函的半光滑牛顿方法，逆问题。，24, 035007, (2008) ·Zbl 1152.49030号 ·doi:10.1088/0266-5611/24/3/035007
[17] 蒋，H；齐，L，非光滑变分不等式迭代方法的局部唯一性和收敛性，J.Math。分析。申请。，196, 314-331, (1995) ·兹比尔0845.65028 ·doi:10.1006/jmaa.1995.1412
[18] Lee，JD；太阳，Y；Saunders，MA，最小化复合函数的近似牛顿型方法，SIAM J.Optim。，24, 1420-1443, (2014) ·Zbl 1306.65213号 ·doi:10.1137/130921428
[19] 李，Q；Li，DH，大型非线性单调方程的一类无导数方法，IMA J.Numer。分析。，31, 1625-1635, (2011) ·Zbl 1241.65047号 ·doi:10.1093/imanum/drq015
[20] 狮子，P-L；Mercier，B，两个非线性算子之和的分裂算法，SIAM J.Numer。分析。，16, 964-979, (1979) ·Zbl 0426.6500号 ·doi:10.1137/0716071
[21] Mifflin，R，约束优化中的半光滑和半凸函数，SIAM J.控制优化。，15, 959-972, (1977) ·Zbl 0376.90081号 ·doi:10.1137/0315061
[22] Milzarek，A；Ulbrich，M，（l_1）-优化的多维滤波器全球化半光滑牛顿法，SIAM J.Optim。，24, 298-333, (2014) ·Zbl 1295.49022号 ·doi:10.1137/120892167
[23] Nocedal，J.，Wright，S.J.：《数值优化》，《运筹学和金融工程斯普林格系列》，第二版。施普林格，纽约（2006）·Zbl 1104.65059号
[24] Ortega，J.M.，Rheinboldt，W.C.：多元非线性方程的迭代解。纽约学术出版社（1970）·Zbl 0241.65046号
[25] 庞，J-S；Qi，LQ，非光滑方程：动机和算法，SIAM J.Optim。，3，443-465，（1993年）·Zbl 0784.90082号 ·数字对象标识代码：10.1137/0803021
[26] Patrinos，P.，Stella，L.，Bempoad，A..：凸组合优化的前向截断牛顿方法。http://arxiv.org/abs/1402.6655, 02 (2014) ·Zbl 0376.90081号
[27] Qi，LQ，求解非光滑方程的一些算法的收敛性分析，数学。操作。第18227-244号决议，（1993年）·Zbl 0776.65037号 ·doi:10.1287/门18.1.227
[28] 齐，LQ；Sun，J，牛顿方法的非光滑版本，数学。程序。，58, 353-367, (1993) ·Zbl 0780.90090号 ·doi:10.1007/BF01581275
[29] Rockafellar，R.T.，Wets，R.J.-B.：变分分析。柏林施普林格（1998）·Zbl 0888.49001号 ·doi:10.1007/978-3-642-02431-3
[30] Scholtes，S.：分段微分方程导论，Springer优化简介。施普林格，纽约（2012）·兹比尔1453.49002 ·doi:10.1007/978-1-4614-4340-7
[31] Shapiro，A，定向不可微度量投影，J.Optim。理论应用。，81, 203-204, (1994) ·Zbl 0807.90107 ·doi:10.1007/BF02190320
[32] Solodov，MV；斯韦特，BF；福岛，M（编辑）；Qi，L（ed.），单调方程组的全局收敛不精确牛顿方法，第22号，355-369，（1999），Dordrecht·Zbl 0928.65059号 ·doi:10.1007/978-1-4757-6388-1_18
[33] Solodov，MV；Svaiter，BF，一种混合投影-近点算法，J.凸分析。，6, 59-70, (1999) ·Zbl 0961.90128号
[34] 孙，D；Han，J，Newton和拟Newton方法求解一类非光滑方程及其相关问题，SIAM J.Optim。，7, 463-480, (1997) ·Zbl 0872.90087号 ·doi:10.1137/S1052623494274970
[35] 孙，D；孙，J，半光滑矩阵值函数，数学。操作。决议，27，150-169，（2002）·Zbl 1082.49501号 ·doi:10.1287/门27.1.150.342
[36] 曾，P；Yun，S，非光滑可分离极小化的坐标梯度下降法，数学。程序。，117, 387-423, (2009) ·Zbl 1166.90016号 ·doi:10.1007/s10107-007-0170-0
[37] Ulbrich，M.：《函数空间中变分不等式和约束优化问题的半光滑牛顿方法》，工业和应用数学学会（SIAM），宾夕法尼亚州费城。数学优化学会，费城（2011）·Zbl 1235.49001号
[38] Berg，E；Friedlander，MP，探索基差追求解决方案的Pareto边界，SIAM J.Sci。计算。，31, 890-912, (2008) ·Zbl 1193.49033号 ·doi:10.1137/080714488
[39] 温，Z；阴，W；Goldfarb，D；Zhang，Y，基于收缩、子空间优化和延拓的稀疏重建快速算法，SIAM J.Sci。计算。，32, 1832-1857, (2010) ·兹伯利1215.49039 ·doi:10.1137/090747695
[40] SJ赖特；罗德岛诺瓦克；Figueiredo，MAT，可分离近似稀疏重建，IEEE Trans。信号处理。，572479-2493，（2009年）·Zbl 1391.94442号 ·doi:10.1109/TSP.2009.2016892
[41] 修，N；张，J，变分不等式投影型方法的一些最新进展，J。计算。申请。数学。，152559-585（2003年）·Zbl 1018.65083号 ·doi:10.1016/S0377-0427（02）00730-6
[42] 杨，J；Zhang，Y，交替方向算法\(Ş_{1} \）-压缩传感问题，SIAM J.Sci。计算。，33, 250-278, (2011) ·Zbl 1256.65060号 ·数字对象标识码：10.1137/09077761
[43] XY赵；孙，D；Toh，KC，半定规划的Newton-CG增广拉格朗日方法，SIAM J.Optim。，20, 1737-1765, (2010) ·Zbl 1213.90175号 ·数字对象标识代码：10.1137/080718206
[44] Zhao，Y-B；Li，D，与变分不等式相关的不动点和正规映射的单调性及其应用，SIAM J.Optim。，11, 962-973, (2001) ·Zbl 1010.90084号 ·doi:10.1137/S1052623499357957
[45] 周，G；Toh，KC，单调方程Newton型算法的超线性收敛，J.Optim。理论应用。，125, 205-221, (2005) ·Zbl 1114.65055号 ·doi:10.1007/s10957-004-1721-7
[46] 周，WJ；Li，DH，无功函数非线性单调方程的全局收敛BFGS方法，数学。计算。，77, 2231-2240, (2008) ·Zbl 1203.90180号 ·doi:10.1090/S0025-5718-08-012121-2
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。