×

凸优化的镜像下降和非线性投影次梯度方法。 (英语) Zbl 1046.90057号

摘要:镜像下降算法(MDA)是Nemirovsky和Yudin为解决凸优化问题而引入的。该方法的效率估计在决策变量维度上具有轻微的依赖性,因此适用于解决大规模优化问题。我们对该算法进行了新的推导和分析。我们表明,MDA可以看作是一种非线性投影子梯度类型的方法,它是通过使用一般的类距离函数而不是通常的欧几里德平方距离导出的。在这种解释中,我们以简单的方式推导了收敛性和效率估计。然后,我们提出了一种用于单位单纯形上凸极小化的熵镜下降算法,证明了全局效率估计值与问题的维数略有依赖。

MSC公司:

90C25型 凸面编程
90摄氏52度 减少梯度类型的方法
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] Ben-Tal,A。;Margalit,T.等人。;Nemirovski,A.,有序子集镜像下降优化方法及其在层析成像中的应用,SIAM J.Optim。,12, 79-108 (2001) ·Zbl 0992.92034号
[2] Bertsekas,D.,非线性规划(1999),雅典娜科学:雅典娜科技贝尔蒙特,马萨诸塞州·Zbl 1015.90077号
[3] Bregman,L.M.,寻找凸集公共点的松弛方法及其在凸规划问题求解中的应用,苏联计算数学和数学物理,7200-217(1967)·Zbl 0186.23807号
[4] Censor,Y。;Lent,A.,区间凸规划的迭代行操作方法,J.Optim。理论应用。,34, 3, 321-353 (1981) ·Zbl 0431.49042号
[5] 陈,G。;Teboulle,M.,使用Bregman函数的近似最小化算法的收敛性分析,SIAM J.Optim。,3, 538-543 (1993) ·Zbl 0808.90103号
[6] Doljanski,M。;Teboulle,M.,《半定规划的内部近似算法和指数乘数法》,SIAM J.Optim。,9, 1-13 (1998) ·Zbl 0960.90066号
[7] Kemperman,J.H.B.,《关于最佳信息传输速率》,《数学年鉴》。统计人员。,40, 2156-2177 (1969) ·Zbl 0287.94021号
[8] Kiwiel,K.C.,具有广义Bregman函数的近似最小化方法,SIAM J.控制优化。,35, 1142-1168 (1997) ·Zbl 0890.65061号
[9] Nedic,A。;Bertsekas,D.,不可微优化的增量次梯度方法,SIAM J.Optim。,12, 109-138 (2001) ·Zbl 0991.90099号
[10] 涅米罗夫斯基,A。;尤丁,D.,优化中的问题复杂性和方法效率(1983),威利出版社:威利纽约·Zbl 0501.90062号
[11] Rockafellar,R.T.,《凸分析》(1970),普林斯顿大学出版社:普林斯顿大学出版,新泽西州普林斯顿·Zbl 0229.90020号
[12] Rockafellar,R.T.,Monotone运算符和近点算法,SIAM J.Control Optim。,14, 877-898 (1976) ·Zbl 0358.90053号
[13] Rockafellar,R.T。;Wets,R.J.B,变分分析(1998),Springer:Springer New York·兹比尔0888.49001
[14] Teboulle,M.,熵近端映射及其在非线性规划中的应用,数学。操作。研究,17,670-690(1992)·兹比尔0766.90071
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。