×
阿列克桑德·亚拉夫金。；詹姆斯·V·伯克。；德米特里·德鲁夫亚茨基；迈克尔·弗里德兰德。；罗伊，斯科特

凸优化的水平集方法。 （英语） Zbl 1421.90111号

数学。程序。 174，编号1-2（B），359-390（2019）.
摘要：应用中出现的凸优化问题往往具有良好的目标函数和复杂的约束条件，从而使一阶方法无法立即应用。我们描述了一种方法，该方法将目标的角色与约束函数之一交换，而近似地解决一系列参数级问题。基于不精确估计和灵敏度信息，介绍了两种非光滑凸函数的类牛顿零寻优方法。结果表明，它们为原问题提供了有效的解决方案。我们描述了该方法在广泛问题中的理论和实际性质，包括低秩半定优化、稀疏优化和规范优化。

引用于14文件

MSC公司：

90C25型 凸面编程
65K10码 数值优化和变分技术
49平方米29 涉及对偶性的数值方法
90-08 运筹学和数学规划相关问题的计算方法

关键词：

一阶方法；根部弯曲；半定规划；圆锥规划

软件：

SPGL1型；RASL公司；相位提升；PDCO公司；ARPACK公司；SNLSDP公司
PDF格式BibTeX公司 XML格式引用
\textit{A.Y.Aravkin}等人，数学。程序。174，编号1--2（B），359--390（2019；Zbl 1421.90111）
全文： 内政部 arXiv公司

参考文献：

[1] Aravkin，A.Y.，Burke，J.，Friedlander，M.P.：值函数的变分性质。SIAM J.Optim公司。23(3), 1689-1717 (2013) ·Zbl 1286.65071号 ·doi:10.1137/120899157
[2] Bach，F.：次梯度法和条件梯度法之间的对偶性。SIAM J.Optim公司。25(1), 115-129 (2015) ·Zbl 1358.90155号 ·数字对象标识代码：10.1137/130941961
[3] Beck，A.，Teboulle，M.：线性反问题的快速迭代收缩阈值算法。SIAM J.成像科学。2(1), 183-202 (2009) ·兹比尔1175.94009 ·doi:10.1137/080716542
[4] Beck，A.，Teboulle，M.：凸优化的镜像下降和非线性投影次梯度方法。操作。Res.Lett公司。31(3), 167-175 (2003) ·Zbl 1046.90057号 ·doi:10.1016/S0167-6377（02）00231-6
[5] Ben Tal，A.，Nemirovski，A.：现代凸优化讲座。MPS/SIAM优化系列。SIAM，费城（2001）·Zbl 0986.90032号 ·doi:10.137/1.9780898718829
[6] Bertsekas，D.P.：凸优化算法。雅典娜科技，贝尔蒙特（2015）·Zbl 1347.90001号
[7] Biswas，P.，Ye，Y.：用于无线传感器网络定位的半定规划。第三届传感器网络信息处理国际研讨会论文集，第46-54页。ACM（2004）
[8] Biswas，P.，Liang，T.C.，Toh，K.C.，Ye，Y.，Wang，T.C.：带噪声距离测量的传感器网络定位的半定规划方法。IEEE传输。自动。科学。工程3（4），360-371（2006）·doi:10.1109/TASE.2006.877401
[9] Biswas，P.、Lian，T.C.、Wang，T.C.，Ye，Y.：基于半定规划的传感器网络定位算法。ACM事务处理。传感器净值。（TOSN）2（2），188-220（2006）·doi:10.1145/1149283.1149286
[10] Borwein，J.M.，Lewis，A.S.：凸分析和非线性优化。理论和示例。CMS数学书籍/SMC数学手册，3。施普林格，纽约（2000年）·Zbl 0953.90001号 ·doi:10.1007/978-1-4757-9859-3
[11] Boyd，S.，Parikh，N.，Chu，R.，Peleato，B.，Eckstein，J.：通过交替方向乘数法的分布式优化和统计学习。已找到。趋势马赫数。学习。3(1), 1-122 (2011) ·Zbl 1229.90122号 ·doi:10.1561/220000016
[12] Brucker，P.：二次背包问题的一种算法。操作。Res.Lett公司。3(3), 163-166 (1984) ·Zbl 0544.90086号 ·doi:10.1016/0167-6377（84）90010-5
[13] Candès，E.J.，Li，X.，Ma，Y.，Wright，J.：稳健主成分分析？J.助理计算。机器。58(3), 1-37 (2011) ·Zbl 1327.62369号 ·数字对象标识代码：10.1145/1970392.1970395
[14] Candès，E.J.，Tao，T.：凸松弛的力量：近最优矩阵完成。IEEE传输。《信息论》56（5），2053-2080（2010）·Zbl 1366.15021号 ·doi:10.1109/TIT.2010.2044061
[15] Candès，E.J.，Li，X.，Ma，Y.，Wright，J.：稳健主成分分析？J.ACM 58（3），11-11137（2011）·Zbl 1327.62369号 ·数字对象标识代码：10.1145/1970392.1970395
[16] Candès，E.J.、Strohmer，T.、Voroninski，V.：相位提升：通过凸规划从幅度测量中准确稳定地恢复信号。Commun公司。纯应用程序。数学。66, 1241-1274 (2012) ·Zbl 1335.94013号 ·doi:10.1002/cpa.21432
[17] Chandrasekaran，V.，Parrilo，P.A.，Willsky，A.S.：通过凸优化选择潜在变量图形模型。Ann.Stat.40（4），1935-2357（2012年）·Zbl 1257.62061号 ·doi:10.1214/11-AOS949
[18] Chen，S.S.，Donoho，D.L.，Saunders，M.A.：通过基追踪进行原子分解。SIAM J.科学。计算。20(1), 33-61 (1999) ·兹比尔0919.94002 ·doi:10.1137/S1064827596304010
[19] Cox，B.，Juditsky，A.，Nemirovski，A.：大规模非光滑学习问题的对偶次梯度算法。数学。程序。148(1-2), 143-180 (2014) ·兹比尔1305.65149 ·doi:10.1007/s10107-013-0725-1
[20] Drusvyatskiy，D.，Pataki，G.，Wolkowicz，H.：半定距离矩阵和欧几里德距离矩阵的坐标阴影。SIAM J.Optim公司。25(2), 1160-1178 (2015) ·Zbl 1320.90054号 ·数字对象标识代码：10.1137/140968318
[21] Drusvyatskiy，D.，Krislock，N.，Voronin，Y.L.，Wolkowicz，H.：噪音欧几里德距离实现：稳健面部缩小和帕累托边界。预印arXiv:14100.6852（2014）·Zbl 1373.90096号
[22] Ennis，R.H.，McGuire，G.C.：《计算机代数食谱：科学数学模型美食指南》。施普林格，柏林（2001）·Zbl 0976.68197号 ·doi:10.1007/978-1-4613-0171-4
[23] Fazel，M.：矩阵秩最小化与应用。斯坦福大学工程系，电子博士（2002年）
[24] Frank，M.，Wolfe，P.：二次规划的算法。海军后勤研究。问题3，95-110（1956年）·doi:10.1002/nav.3800030109
[25] Friedlander，M.P.，Macído，I.，Pong，T.K.：规范优化和对偶性。SIAM J.Optim公司。24(4), 1999-2022 (2014). https://doi.org/10.1137/10940785 ·Zbl 1333.90083号 ·数字对象标识代码：10.1137/130940785
[26] Gabay，D.，Mercier，B.：通过有限元近似解非线性变分问题的对偶算法。计算。数学。申请。2(1), 17-40 (1976) ·Zbl 0352.65034号 ·doi:10.1016/0898-1221（76）90003-1
[27] Hager，W.W.，Huang，S.J.，Pardalos，P.M.，Prokopyev，O.A.（编辑）：多尺度优化方法与应用，非凸优化及其应用，第82卷。斯普林格（2006）
[28] Harchaoui，Z.，Juditsky，A.，Nemirovski，A.：规范化光滑凸优化的条件梯度算法。数学。程序。152（1-2，序列号A），75-112（2015）·Zbl 1336.90069号 ·doi:10.1007/s10107-014-0778-9
[29] Martin，J.：重温Frank-Wolfe：无投影稀疏凸优化。In：程序。第30名实习生。Conf.机器学习（ICML-13），第427-435页（2013）
[30] Krislock，N.，Wolkowicz，H.：使用半定表示和面部还原的显式传感器网络定位。SIAM J.Optim公司。20(5), 2679-2708 (2010) ·Zbl 1229.90250号 ·doi:10.1137/090759392
[31] Lehoucq，R.B.，Sorensen，D.C.，Yang，C.：ARPACK用户指南：用隐式重新启动的Arnoldi方法解决大规模特征值问题，第6卷。SIAM，费城（1998）·Zbl 0901.65021号 ·doi:10.1137/1.9780898719628
[32] Lemaréchal，C.：Davidon方法对不可微问题的扩展。数学。程序。螺柱3，95-109（1975）·Zbl 0358.90051号 ·doi:10.1007/BFb0120700
[33] Lemaréchal，C.，Nemirovskii，A.，Nesterov，Y.：束方法的新变体。数学。程序。69（1，Ser.B），111-147（1995）。（不可微和大规模优化（日内瓦，1992））·Zbl 0857.90102号 ·doi:10.1007/BF01585555
[34] Liberti，L.，Lavor，C.，Maculan，N.，Mucherino，A.：欧几里德距离几何和应用。SIAM版本56（1），3-69（2014）·Zbl 1292.51010号 ·doi:10.1137/120875909
[35] Ling，S.，Strohmer，T.：自校准和双凸压缩传感。CoRR arXiv:1501.06864（2015）·Zbl 1327.93183号
[36] Luke，R.、Burke，J.、Lyons，R.：光学波前重建：理论和数值方法。SIAM版本44169-224（2002）·Zbl 1094.78004号 ·doi:10.1137/S003614450139075
[37] Markowitz，H.M.：投资组合选择和资本市场的均值-方差分析。Frank J，Fabozzi Associates，《新希望》（1987）·Zbl 0757.90003号
[38] Marquardt，D.：非线性参数的最小二乘估计算法。SIAM J.应用。数学。11, 431-441 (1963) ·Zbl 0112.10505号 ·数字对象标识代码：10.1137/011030
[39] Miettinen，K.：非线性多目标优化。柏林施普林格（1999）·Zbl 0949.90082号
[40] 莫里森，D.D.：非线性最小二乘问题的方法和收敛性证明。收录：Lorell，J.，Yagi，F.（编辑）《跟踪程序和轨道确定研讨会论文集》，第1-9页。帕萨迪纳喷气推进实验室（1960年）
[41] Nemirovski，A.：带Lipschitz连续单调算子的变分不等式和光滑凹凸鞍点问题的具有收敛速度的Prox方法。SIAM J.Optim公司。15(1), 229-251 (2004) ·Zbl 1106.90059号 ·doi:10.1137/S1052623403425629
[42] Nesterov，Y.：凸优化入门讲座。Kluwer学术，多德雷赫特（2004）·兹比尔1086.90045 ·doi:10.1007/978-1-4419-8853-9
[43] Nesterov，Y.：非光滑函数的平滑最小化。数学。程序。103(1), 127-152 (2005) ·Zbl 1079.90102号 ·doi:10.1007/s10107-004-0552-5
[44] Osborne，M.R.，Presnell，B.，Turlach，B.A.：最小二乘问题中变量选择的新方法。IMA J.数字。分析。20(3), 389-403 (2000) ·Zbl 0962.65036号 ·doi:10.1093/imanum/20.3.89
[45] Peng，Y.，Ganesh，A.，Wright，J.，Xu，W.，Ma，Y.：RASL：线性相关图像的稀疏和低秩分解鲁棒对齐。IEEE传输。模式分析。机器。智力。34(11), 2233-2246 (2012) ·doi:10.1109/TPAMI.2011.282
[46] Recht，B.，Fazel，M.，Parrilo，P.A.：通过核范数最小化的线性矩阵方程的保证最小秩解。SIAM版本52（3），471-501（2010）·Zbl 1198.90321号 ·数字对象标识代码：10.1137/070697835
[47] Recht，B.，Fazel，M.，Parrilo，P.A.：通过核范数最小化的线性矩阵方程的保证最小秩解。SIAM版本52（3），471-501（2010）·Zbl 1198.90321号 ·数字对象标识代码：10.1137/070697835
[48] Renegar，J.：线性规划、复杂性理论和初等函数分析。数学。程序。70（3，序列号A），279-351（1995）·Zbl 0855.90085号
[49] Renegar，J.：将次梯度方法应用于圆锥优化问题的框架。预印arXiv：1503.02611（2015）
[50] Rockafellar，R.T.：凸分析。普林斯顿数学里程碑。普林斯顿大学出版社，普林斯顿（1970）·Zbl 0193.18401号
[51] Tseng，P.：结构化凸优化的近似精度、梯度方法和误差界。数学。程序。125(2), 263-295 (2010) ·兹比尔1207.65084 ·doi:10.1007/s10107-010-0394-2
[52] van den Berg，E.，Friedlander，M.P.：具有最小二乘约束的稀疏优化。SIAM J.Optim公司。21(4), 1201-1229 (2011) ·Zbl 1242.49061号 ·数字对象标识代码：10.1137/100785028
[53] van den Berg，E.，Friedlander，M.P.：探索基础追踪解决方案的帕累托边界。SIAM J.科学。计算。31(2), 890-912 (2008) ·Zbl 1193.49033号 ·doi:10.1137/080714488
[54] Waldspurger，I.，d'Aspremont，A.，Mallat，S.：相位恢复，最大割和复杂半定规划。数学。程序。149(1-2), 47-81 (2015) ·Zbl 1329.94018号 ·doi:10.1007/s10107-013-0738-9
[55] Weinberger，K.Q.，Sha，F.，Saul，L.K.：学习非线性降维的核矩阵。收录：第二十届机器学习国际会议论文集。ICML'04，第106页。ACM，纽约（2004）
[56] Wolfe，P.：最小化不可微函数的共轭次梯度方法。数学。程序。螺柱3145-173（1975）·Zbl 0369.90093号 ·doi:10.1007/BFb0120703
[57] Wright，J.，Ganesh，A.，Rao，S.，Ma，Y.：稳健主成分分析：通过凸优化精确恢复损坏的低秩矩阵。In:神经信息处理系统（NIPS）（2009）
[58] Wright，S.J.、Nowak，R.D.、Figueiredo，M.A.T.：通过可分离近似进行稀疏重建。IEEE传输。信号处理。57(7), 2479-2493 (2009) ·Zbl 1391.94442号 ·doi:10.1109/TSP.2009.2016892
[59] Yin，W.：线性化bregman方法的分析和推广。SIAM J.成像科学。3(4), 856-877 (2010) ·Zbl 1211.68491号 ·数字对象标识代码：10.1137/090760350
[60] Zhang，Z.，Liang，X.，Ganesh，A.，Ma，Y.：TILT：变换不变的低阶纹理。收录人：Kimmel，R.、Klette，R.和Sugimoto，A.（编辑）《计算机视觉》，2010年。计算机科学讲义第6494卷，第314-328页。施普林格，柏林（2011）·兹比尔1254.68290
[61] Zheng，P.，Aravkin，A.Y.，Ramamurthy，K.N.，Thiagarajan，J.J：学习计算机视觉的鲁棒表示法。参加：IEEE计算机视觉国际会议（ICCV）研讨会（2017年）
[62] Zou，H.，Hastie，T.：通过弹性网络的正则化和变量选择。J.R.统计社会服务。B 67301-320（2005）·Zbl 1069.62054号 ·文件编号：10.1111/j.1467-9868.2005.005.x
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。