×

凸可行性问题的交替条件梯度法。 (英语) Zbl 1472.65068号

摘要:有限维欧几里德空间中的经典凸可行性问题包括在两个凸集的交点上寻找一个点。在本文件中,我们对这个问题的两个特殊实例感兴趣。首先,我们假设知道如何计算一个精确投影到其中一个集合上,而另一个集合是紧致的,因此可以使用条件梯度(CondG)方法有效地计算其上的不精确投影。其次,我们假设所涉及的两个集合都是紧凑的,因此可以使用CondG方法有效地计算它们的不精确投影。我们将交替投影方法与CondG方法相结合,设计了一种新的方法,可以看作是交替投影方法的不精确可行版本。所提出的方法生成两个不同的序列,属于每个涉及的集合,当它们的交集不为空时,这两个序列就会收敛到它们的交集中的一个点。如果交点为空,则序列收敛到各自集合中的点,这些点之间的距离等于所考虑的集合之间的距离。通过数值实验说明了该方法的实际性能。

MSC公司:

65千5 数值数学规划方法
90立方 非线性规划
90C25型 凸面编程

软件:

阿尔根坎
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] Bauschke,HH;Borwein,JM,关于von Neumann的两组交替投影算法的收敛性,集值分析。,1, 2, 185-212 (1993) ·Zbl 0801.47042号 ·doi:10.1007/BF01027691
[2] Bauschke,HH;Borwein,JM,Dykstra的两组交替投影算法,J.近似理论,79,3,418-443(1994)·Zbl 0833.46011号 ·doi:10.1006/jath.1994.1136
[3] Bauschke,HH;Borwein,JM,《关于求解凸可行性问题的投影算法》,SIAM Rev.,38,3,367-426(1996)·Zbl 0865.47039号 ·doi:10.1137/S0036144593251710
[4] Bauschke,HH;组合,PL,希尔伯特空间中Fejér-单调方法的弱到强收敛原理,数学。操作。第26、2、248-264号决议(2001年)·Zbl 1082.65058号 ·doi:10.1287/门26.2.248.10558
[5] Bauschke,H.H.,Combettes,P.L.:希尔伯特空间中的凸分析和单调算子理论。收录:CMS数学图书/Ouvrages de Mathématiques de la SMC。施普林格,纽约(2011)。由Hédy Attouch作前言·Zbl 1218.47001号
[6] 贝克,A。;Teboulle,M.,求解凸线性系统的具有线性收敛率的条件梯度方法,数学。方法操作。第59、2、235-247号决议(2004年)·Zbl 1138.90440号 ·doi:10.1007/s001860300327
[7] 伯金,EG;Martínez,JM,约束优化的实用增广拉格朗日方法(2014),费城:SIAM,费城·Zbl 1339.90312号 ·doi:10.1137/1.9781611973365
[8] Brègman,LM,用逐次投影法求凸集的公共点,Dokl。阿卡德。恶心。SSSR,162487-490(1965)·Zbl 0142.16804号
[9] Carderera,A.,Pokutta,S.:二阶条件梯度滑动。arXiv电子打印,第arXiv:2002.08907页(2020年2月),2002.08907
[10] Cegielski,A。;Reich,S。;Zalas,R.,拟单扩张算子的正则序列及其应用,SIAM J.Optim。,28, 2, 1508-1532 (2018) ·Zbl 1391.41006号 ·doi:10.1137/17M1134986
[11] Censor,Y。;Cegielski,A.,投影方法:书籍和评论的注释书目,优化,64,1122343-2358(2015)·Zbl 1328.65001号 ·doi:10.1080/02331934.2014.957701
[12] 切尼,W。;Goldstein,AA,凸集的邻近映射,Proc。美国数学。《社会学杂志》,第10448-450页(1959年)·Zbl 0092.11403号 ·doi:10.1090/S0002-9939-1959-0105008-8
[13] Clarkson,KL,Coresets,稀疏贪婪近似,以及Frank-Wolfe算法,ACM-Trans。算法,6,4,30(2010)·Zbl 1300.90026号 ·doi:10.1145/1824777.1824783
[14] 组合,PL,集合论估计的基础,Proc。IEEE,81,2,182-208(1993)·数字对象标识代码:10.1109/5.214546
[15] 梳形物,PL;Hawkes,P.,图像恢复中的凸可行性问题,成像和电子物理进展,155-270(1996),纽约:学术出版社,纽约
[16] 组合,PL,硬约束不一致信号可行性问题,EEE Trans。信号。工艺。,472460-2468(1999年)·Zbl 0979.94016号 ·doi:10.1109/78.782189
[17] Combettes,P.L.:一些优化算法的准Fejérian分析。In:可行性和优化中的内在并行算法及其应用(Haifa,2000),Stud.Comput第8卷。数学。,第115-152页。荷兰北部,阿姆斯特丹(2001)·Zbl 0992.65065号
[18] Díaz Milán,R.,Lindstrom,S.B.,Roshchina,V.:比较平均松弛刀具和投影方法:理论和示例。收录:《纪念乔恩·博文的施普林格特别卷》,《施普林格数学统计学报》(2019年出版)·Zbl 1468.90142号
[19] Drusvyatskiy,D。;刘易斯,AS,非凸集上不精确交替投影的局部线性收敛,越南数学杂志。,47669-681(2019)·Zbl 1427.49032号 ·doi:10.1007/s10013-019-00357-3
[20] Dunn,JC,隐式步长规则生成的条件梯度序列的收敛速度,SIAM J.控制优化。,18, 5, 473-487 (1980) ·Zbl 0457.65048号 ·doi:10.1137/0318035
[21] M.弗兰克。;Wolfe,P.,二次规划算法,Nav。Res.日志。,3, 95-110 (1956) ·doi:10.1002/nav.3800030109
[22] 弗伦德,RM;Grigas,P.,Frank-Wolfe方法的新分析和结果,数学。程序。,155, 1-2, 199-230 (2016) ·兹比尔1342.90101 ·doi:10.1007/s10107-014-0841-6
[23] Fukushima,M.,用于解决交通分配问题的改进Frank-Wolfe算法,Transp。《B部分决议》,第18、2、169-177页(1984年)·doi:10.1016/0191-2615(84)90029-8
[24] Fukushima,M.,变分不等式的松弛投影法,数学。程序。,35, 1, 58-70 (1986) ·Zbl 0598.49024号 ·doi:10.1007/BF01589441
[25] Garber,D.,Hazan,E.:强凸集上Frank-Wolfe方法的速度更快。摘自:《第32届国际机器学习会议论文集》,第37卷,第541-549页(2015)
[26] Gonçalves,MLN;Melo,JG,约束非线性系统的牛顿条件梯度法,J.Compute。申请。数学。,311, 473-483 (2017) ·Zbl 1382.65141号 ·doi:10.1016/j.cam.2016.08.009
[27] Han,S-P,《连续投影法》,数学。程序。,40, 1, 1-14 (1988) ·Zbl 0685.90074号 ·doi:10.1007/BF01580719
[28] 黑塞,R。;卢克,博士;Neumann,P.,稀疏仿射可行性的交替投影和Douglas-Rachford,IEEE Trans。信号。工艺。,62, 18, 4868-4881 (2014) ·Zbl 1394.94227号 ·doi:10.1109/TSP.2014.2339801
[29] 安大略省Iusem;Jofré,A。;Thompson,P.,单调随机变分不等式的增量约束投影方法,数学。操作。研究,44,1,236-263(2019)·Zbl 1477.65101号
[30] Jaggi,M.:重温Frank-Wolfe:无投影稀疏凸优化。摘自:《第三十届国际机器学习会议论文集》,第28卷,ICML'13:I-427-I-435,(2013)
[31] 兰,G。;周瑜,凸优化的条件梯度滑动,SIAM J.Optim。,26, 2, 1379-1409 (2016) ·Zbl 1342.90132号 ·数字对象标识代码:10.1137/140992382
[32] 莱维汀,ES;Poljak,BT,约束条件下的最小化方法,苏联计算。数学。数学。物理。,6, 1-50 (1966) ·doi:10.1016/0041-5553(66)90114-5
[33] 路易斯,AS;卢克博士;Malick,J.,《交替和平均非凸投影的局部线性收敛》,Found。计算。数学。,9, 4, 485-513 (2009) ·Zbl 1169.49030号 ·doi:10.1007/s10208-008-9036-y
[34] 卢斯,R。;Teboulle,M.,带稀疏约束的秩一矩阵近似的条件梯度算法,SIAM Rev.,55,1,65-98(2013)·Zbl 1263.90094号 ·数字对象标识代码:10.1137/10839072
[35] Rothvoss,T.,匹配多胞体具有指数扩展复杂性,J.ACM,64,6,19(2017)·Zbl 1426.90255号 ·数字对象标识代码:10.1145/3127497
[36] von Neumann,J.,函数算子。二、。正交空间的几何。《数学研究年鉴》(1950),普林斯顿:普林斯顿大学出版社·Zbl 0039.11701号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。