×

凸组合优化线性化近似算法的收敛速度及其应用。 (英语) Zbl 1338.65159号

摘要:在本文中,我们研究了一种求解凸复合优化问题的线性化近似算法(LPA)。LPA的每次迭代都是凸复合函数的近似最小化,内部函数在当前迭代时被线性化。LPA具有吸引人的计算优势,即每个子问题的解都是单点的,这避免了Gauss-Newton方法(GNM)中的困难,即在其子问题的极小集中找到一个具有最小范数的解,同时仍然保持与GNM相同的局部收敛速度。在(p\)\(p\ in[1,2])\)阶局部弱尖锐极小和拟正则条件的假设下,我们建立了LPA的局部超线性收敛速度。我们还提出了基于回溯线搜索和LPA不精确版本的LPA全球化策略。我们进一步应用LPA来解决(可能非凸的)可行性问题以及传感器网络定位问题。我们的数值结果表明,该LPA满足了传感器网络定位问题高效鲁棒算法的要求。

MSC公司:

65千5 数值数学规划方法
90C26型 非凸规划,全局优化

软件:

SNLSDP公司
PDF格式BibTeX公司 XML格式引用
全文: 内政部 链接

参考文献:

[1] H.H.Bauschke和J.M.Borwein,《关于求解凸可行性问题的投影算法》,SIAM Rev.,38(1996),第367-426页,http://dx.doi.org/10.1137/S0036144593251710。 ·Zbl 0865.47039号
[2] A.Beck和M.Teboulle,{线性反问题的快速迭代收缩阈值算法},SIAM J.成像科学。,2(2009),第183-202页,http://dx.doi.org/10.1137/080716542。 ·Zbl 1175.94009号
[3] D.P.Bertsekas,《非线性规划》,雅典娜科学出版社,英国剑桥,1999年·Zbl 1015.90077号
[4] P.Biswas,T.-C.Liang,K.-C.Toh,Y.Ye和T.-C.Wang,{\it带噪声距离测量的传感器网络定位的半定规划方法},IEEE Trans。自动化。科学。工程,3(2006),第360-371页。
[5] J.Bolt、A.Danilidis和A.S.Lewis,《Tame函数是半光滑的》,数学。程序。,1-2(2009),第5-19页·Zbl 1158.49030号
[6] J.F.Bonnans和A.Ioffe,{非孤立极小值的二阶充分性和二次增长},数学。操作。Res.,20(1995),第801-817页·Zbl 0846.90095号
[7] S.Boyd、N.Parikh、E.Chu、B.Peleato和J.Eckstein,《通过交替方向乘数法进行分布式优化和统计学习》,Found。趋势马赫数。《学习》,3(2011),第1-124页·Zbl 1229.90122号
[8] J.V.Burke,{复合不可微优化问题的下降方法},数学。程序。,33(1985年),第260-279页·兹伯利0581.90084
[9] J.V.Burke,{凸复合NDO}的二阶充要条件,数学。程序。,38(1987),第287-302页·Zbl 0641.49013号
[10] J.V.Burke和M.C.Ferris,{凸组合优化的高斯-纽顿方法},数学。程序。,71(1995),第179-194页·Zbl 0846.90083号
[11] J.V.Burke和S.Deng,《重访弱尖锐极小值》,第一部分:基本理论,《控制网络》。,31(2002),第439-469页·Zbl 1105.90356号
[12] J.V.Burke和M.C.Ferris,{it数学规划中的弱锐极小},SIAM J.Control Optim。,31(1993),第1340-1359页,http://dx.doi.org/10.1137/0331063。 ·Zbl 0791.90040号
[13] R.Fletcher,{实用优化方法},威利,纽约,1987年·Zbl 0905.65002号
[14] B.He和X.Yuan,{关于Douglas-Rachford交替方向法的(O(1/n))收敛速度},SIAM J.Numer。分析。,50(2012),第700-709页,http://dx.doi.org/10.1137/10836936。 ·Zbl 1245.90084号
[15] J.-B.Hiriart-Urruti和C.Lemareíchal,{凸分析的基本原理},Springer-Verlag,柏林,2001年·Zbl 0998.49001号
[16] 胡永华,杨晓清,西姆·西姆,{拟凸优化问题的非精确次梯度方法},欧洲期刊。Res.,240(2015),第315-327页·Zbl 1357.90116号
[17] A.S.Lewis和J.Malick,{流形上的交替投影},数学。操作。研究,33(2008),第216-234页·Zbl 1163.65040号
[18] A.S.Lewis和S.J.Wright,{复合材料最小化的近似方法},技术报告,2008年·Zbl 1345.49041号
[19] C.Li和K.F.Ng,{凸包含和凸组合优化问题的高斯-纽顿方法的收敛性分析},J.Math。分析。申请。,389(2012),第469-485页·兹比尔1239.65036
[20] C.Li和K.F.Ng,{凸组合优化的Gauss-Newton方法的优化函数和收敛性},SIAM J.Optim。,18(2007),第613-642页,http://dx.doi.org/10.1137/06065622X。 ·Zbl 1153.90012号
[21] C.Li和X.Wang,{关于凸组合优化的Gauss-Newton方法的收敛性},Math。程序。,91(2002),第349-356页·Zbl 1049.90132号
[22] Z.-Q.Luo,W.-K.Ma,A.M.-C.So,Y.Ye和S.Zhang,{\it二次优化问题的半定松弛},IEEE Signal Proc。Mag.,27(2010),第20-34页。
[23] B.Martinet,{it正则化不等式变量近似序列},Rev.Francaise Inf.Rech。操作。,(1970年),第154-159页·Zbl 0215.21103号
[24] J.J.Moreö,{it《Levenberg-Marquardt算法:实现与理论》,《数值分析》,G.A.Watson主编,数学课堂讲稿。630,柏林施普林格出版社,1978年,第105-116页·Zbl 0372.65022号
[25] 于。Nesterov,{\it最小化复合函数的梯度方法},数学。程序。,140(2013),第125-161页·Zbl 1287.90067号
[26] J.Nocedal和S.J.Wright,《数值优化》,Springer Science+Business Media,纽约,2006年·Zbl 1104.65059号
[27] J.-S.Pang,《数学编程中的误差界限》,《数学》。程序。,79(1997),第299-332页·Zbl 0887.90165号
[28] L.Qi和J.Sun,{它是牛顿方法的非光滑版本},数学。程序。,58(1993),第353-367页·Zbl 0780.90090号
[29] S.M.Robinson,{不等式系统的稳定性理论,第二部分。可微非线性系统。},SIAM J.Numer。分析。,13(1976年),第497-513页,http://dx.doi.org/10.1137/0713043。 ·兹比尔0347.90050
[30] R.T.Rockafellar,{单调算子和近点算法},SIAM J.控制优化。,14(1976)第877-898页,http://dx.doi.org/10.1137/0314056。 ·Zbl 0358.90053号
[31] R.T.Rockafellar,{非线性规划中的一阶和二阶外微分},Trans。阿默尔。数学。Soc.,307(1988),第75-108页·Zbl 0655.49010号
[32] C.Sagastizaíbal,{\it复合近端束方法},数学。程序。,140(2013),第189-233页·Zbl 1273.90163号
[33] J.B.Saxe,{加权图在(k)-空间中的可嵌入性是强NP-hard},《第17届Allerton通信、控制和计算年会论文集》,1979年,第480-489页。
[34] 石勤,何春霞,蒋丽萍,{归一化增量次梯度算法及其应用},IEEE Trans。信号处理。,57(2009),第3759-3774页·Zbl 1391.90480号
[35] M.Studniarski和D.E.Ward,{弱尖锐极小:特征和充分条件},SIAM J.控制优化。,38(1999),第219-236页,http://dx.doi.org/10.1137/S0363012996301269。 ·Zbl 0946.49011号
[36] W.Sun和Y.-X.Yuan,《优化理论与方法》,施普林格科学+商业媒体,纽约,2006年·邮编1129.90002
[37] P.Tseng,{凹凸优化的加速近似梯度法},技术报告,2008年。
[38] Z.Wang,S.Zheng,Y.Ye,S.Boyd,{传感器网络定位半定规划方法的进一步放宽},SIAM J.Optim。,19(2008),第655-673页,http://dx.doi.org/10.1137/060669395。 ·Zbl 1173.90498号
[39] R.S.Womersley,{最小化非光滑复合函数算法的局部性质},数学。程序。,32(1985年),第69-89页·Zbl 0571.90084号
[40] L.Xiao和T.Zhang,稀疏最小二乘问题的近梯度同伦论方法,SIAM J.Optim。,23(2013),第1062-1091页,http://dx.doi.org/10.1137/120869997。 ·Zbl 1280.65057号
[41] Ye,{内点算法:理论与分析},John Wiley&Sons,纽约,1987年。
[42] Y.-X.Yuan,{非光滑优化信赖域算法收敛的条件},Math。程序。,31(1985),第220-228页·Zbl 0576.90080号
[43] X.Y.Zheng和K.F.Ng,{凸组合优化中的强KKT条件和弱尖锐解},数学。程序。,126(2011),第259-279页·Zbl 1229.90147号
[44] 郑晓扬,{半无限优化问题的弱尖锐极小及其应用},SIAM J.Optim。,18(2007),第573-588页,http://dx.doi.org/10.1137/060670213。 ·Zbl 1190.90251号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。