×

最小化复合函数的梯度方法。 (英语) Zbl 1287.90067号

设(E\)是具有对偶(E^*\)的有限维线性空间。作者提供了新的扩展梯度法来解决形状优化问题\[\φ(x)=f(x)+磅/平方英寸(x)到最小值,四元文本{s.t.}x在Q中,\]即目标函数为光滑(非必要凸)函数和凸(非必要光滑)函数之和的优化问题。假设集(Q\子集E\)是凸集。
首先指出,对于一般的非光滑、非凸函数,即使解决从一点开始的下降方向是否存在的问题也是NP-hard。然而,对于上述目标函数的特殊形式,使用由\[\开始{聚集}T_L(y):=\text{argmin}\Biggl\{f(y)+\langle\nabla f(y\]其中,(B:E~E^*)是一个固定正定自共轭算子,它定义了范数(h=langle-Bh,h{1/2}),并且(L\)是正常数。这意味着复合梯度映射的目标是光滑问题的已知梯度映射目标和非光滑凸项的总和。
在讨论了这种映射之后,给出了求解优化问题的一些广义梯度方法。结果表明,在凸和非凸情况下,复杂度结果与通常的光滑情况(psi=0)完全相同。在论文的最后,作者给出了一些应用实例和所提出方法的一些计算结果。

MSC公司:

90立方 非线性规划
90C25型 凸面编程
90立方厘米 分数编程
65千5 数值数学规划方法

软件:

PDCO公司
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] Chen,S.,Donoho,D.,Saunders,M.:通过基追踪进行原子分解。SIAM J.科学。计算。20, 33-61 (1998) ·Zbl 0919.94002号 ·doi:10.1137/S1064827596304010
[2] Claerbout,J.,Muir,F.:运营数据的稳健建模。地球物理学38,826-844(1973)·数字对象标识代码:10.1190/1.1440378
[3] Figueiredo,M.、Novak,R.、Wright,S.J.:稀疏重建的梯度投影:应用于压缩传感和其他反问题。提交出版
[4] Fukushima,M.,Mine,H.:某些非凸问题的广义近点算法。国际期刊系统。科学。12(8), 989-1000 (1981) ·Zbl 0467.65028号 ·网址:10.1080/00207728108963798
[5] Kim,S.-J.,Koh,K.,Lustig,M.,Boyd,S.,Gorinevsky,D.:大规模\[l_1\]-正则化最小二乘问题的一种方法及其在信号处理和统计学中的应用。斯坦福大学,3月20日,研究报告(2007)
[6] Levy,S.,Fullagar,P.:从频谱的一部分重建稀疏尖峰序列,并将其应用于高分辨率反褶积。地球物理学46,1235-1243(1981)·doi:10.1190/1.1441261
[7] Miller,A.:回归中的子集选择。查普曼和霍尔,伦敦(2002年)·Zbl 1051.62060号 ·doi:10.1201/9781420035933
[8] Nemirovsky,A.,Yudin,D.:信息复杂性和解决凸极值问题的有效方法。纽约威利(1983)
[9] Nesterov,Y.:凸优化入门讲座。Kluwer,波士顿(2004)·Zbl 1086.90045号
[10] Nesterov,Y.:非光滑函数的平滑最小化。数学。程序。(A) 103(1),127-152(2005)·Zbl 1079.90102号 ·doi:10.1007/s10107-004-0552-5
[11] Nesterov,Y.:最小化复合目标函数的梯度方法。CORE讨论文件\[\#2007/76\],CORE(2007)
[12] Nesterov,Y.:线性规划问题的凸集舍入和有效梯度方法。最佳方案。方法软件。23(1), 109-135 (2008) ·Zbl 1192.90119号 ·doi:10.1080/155678701550059
[13] Nesterov,Y.:加速牛顿方法在凸问题上的三次正则化。数学。程序。112(1), 159-181 (2008) ·Zbl 1167.90013号 ·doi:10.1007/s10107-006-0089-x
[14] Nesterov,Y.,Nemirovskii,A.:凸规划中的内点多项式方法:理论与应用。SIAM,费城(1994)·Zbl 0824.90112号 ·doi:10.1137/1.9781611970791
[15] Ortega,J.,Rheinboldt,W.:多元非线性方程的迭代解。纽约学术出版社(1970)·Zbl 0241.65046号
[16] Santosa,F.,Symes,W.:带状反射直方图的线性反演。SIAM J.科学。统计计算。7, 1307-1330 (1986) ·Zbl 0602.73113号 ·数字对象标识代码:10.1137/0907087
[17] Taylor,H.,Bank,S.,McCoy,J.:范数为[l_1\]的反褶积。地球物理学44,39-52(1979)·数字对象标识代码:10.1190/1.1440921
[18] Tibshirani,R.:通过套索进行回归收缩和选择。《美国法律总汇》第58卷第267-288页(1996年)·Zbl 0850.62538号
[19] Tropp,J.:放松:识别稀疏信号的凸规划方法。IEEE传输。Inf.Theory 51,1030-1051(2006)·Zbl 1288.94025号 ·doi:10.1109/TIT.2005.864420
[20] Wright,S.J.:解决\[1 \]-正则回归问题。在滑铁卢“组合数学与优化”国际会议上的讲话(2007年6月)·Zbl 1192.90119号
此参考列表基于出版商或数字数学图书馆提供的信息。它的项目与zbMATH标识符启发式匹配,并且可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。