×

具有任意采样和成像应用的随机原始-对偶混合梯度算法。 (英语) Zbl 06951767号

小结:我们提出了Chambolle和Pock在2011年研究的原始-对偶混合梯度算法的随机扩展,以解决对偶变量中可分离的鞍点问题。对一般的凹凸鞍点问题以及部分光滑、强凸或完全光滑、强凸起的问题进行了分析。我们对对偶变量的任意采样进行了分析,作为特例,我们得到了已知的确定性结果。在各种成像任务中,我们的随机方法的几个变体明显优于确定性变体。

MSC公司:

65D18天 计算机图形、图像分析和计算几何的数值方面
65K10码 数值优化和变分技术
74S60系列 应用于固体力学问题的随机和其他概率方法
90C25型 凸面编程
90立方厘米 随机规划
92 C55 生物医学成像和信号处理
94A08型 信息与通信理论中的图像处理(压缩、重建等)
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] J.Adler、H.Kohr和O.O¨ktem,操作员离散化库(ODL), 2017, .
[2] Z.Allen-Zhu、Y.Yuan、P.Richta⁄rik和Y.Yu,使用非均匀采样实现更快的加速坐标下降,在国际机器学习会议上,Proc。机器。学习。2016年第48号决议;预印本可从获取。
[3] P.Balamurugan和F.Bach,鞍点问题的随机方差约简方法,载于《第30届神经信息处理系统国际会议论文集》(NIPS’16),2016年,第1416-1424页。
[4] H.Bauschke和J.Borwein,勒让德函数与随机布列格曼投影方法,J.凸面分析。,4(1997年),第27-67页·Zbl 0894.49019号
[5] H.H.Bauschke和P.L.Combettes,Hilbert空间中的凸分析和单调算子理论,施普林格,2011年·Zbl 1218.47001号
[6] A.Beck和M.Teboulle,线性反问题的快速迭代收缩阈值算法,SIAM J.成像科学。,2(2009年),第183-202页·Zbl 1175.94009号
[7] M.Benning、C.-B.Schǒnlieb、T.Valkonen和V.Vlac,基于双层优化的动态反问题各向异性正则化探讨,预印本,2016年。
[8] D.P.Bertsekas,凸优化的增量梯度、子梯度和近似方法:综述《机器学习优化》,S.Sra、S.Nowozin和S.J.Wright主编,麻省理工学院出版社,2011年,第85-120页。
[9] D.P.Bertsekas,大规模凸优化的增量逼近方法,数学。程序。,129(2011),第163-195页·Zbl 1229.90121号
[10] D.Blatt、A.O.Hero和H.Gauchman,步长不变的收敛增量梯度法、SIAM J.Optim.、。,18(2007),第29-51页·兹比尔1154.90015
[11] K.Bredies和M.Holler,基于TGV的可变图像解压缩、缩放和重建框架。第一部分:分析,SIAM J.成像科学。,8(2015),第2814–2850页·Zbl 1333.94006号
[12] A.Chambolle,全变差最小化算法及其应用,J.数学。《成像视觉》,20(2004),第89-97页·Zbl 1366.94048号
[13] A.Chambolle和T.Pock,凸问题的一阶原对偶算法及其在成像中的应用,J.数学。《成像视觉》,40(2011),第120–145页·Zbl 1255.68217号
[14] A.Chambolle和T.Pock,成像连续优化简介,实绩数字。,25(2016),第161-319页·Zbl 1343.65064号
[15] A.Chambolle和T.Pock,一阶原对偶算法的遍历收敛速度,数学。程序。,159(2016),第253-287页·Zbl 1350.49035号
[16] P.L.Combettes和J.-C.Pesquet,随机扫描的随机拟Fejer块坐标不动点迭代、SIAM J.Optim.、。,25(2015),第1221–1248页·Zbl 1317.65135号
[17] D.Csiba、Z.Qu和P.Richtaírik,概率自适应的随机双坐标上升,J.马赫。学习。研究,37(2015),第674-683页。
[18] C.D.Dang和G.Lan,鞍点计算的随机方法,预印本,2014年。
[19] A.Defazio、F.Bach和S.Lacoste-Julien,SAGA:一种支持非强凸复合目标的快速增量梯度方法,《神经信息处理系统进展》27(NIPS 2014),Curran Associates,2014年,第1646–1654页。
[20] R.M.de Oliviera、E.S.Helou和E.F.Costa,约束凸优化的字符串平均增量子梯度及其在层析图像重建中的应用《反问题》,32(2016),115014·Zbl 1355.65080号
[21] E.Esser、X.Zhang和T.F.Chan,成像科学中凸优化的一类一阶原对偶算法的一般框架,SIAM J.成像科学。,3(2010年),第1015-1046页·Zbl 1206.90117号
[22] V.Estellers、S.Soatto和X.Bresson,结构张量自适应正则化,IEEE传输。图像处理。,24(2015),第1777-1790页·Zbl 1408.94166号
[23] O.Fercoq和P.Bianchi,一种步长大且可能不可分离函数的坐标下降原对偶算法,预印本,2015年。
[24] O.Fercoq和P.Richtárik,加速、平行和近端坐标下降、SIAM J.Optim.、。,25(2015),第1997-2023页·Zbl 1327.65108号
[25] X.Gao、Y.Xu和S.Zhang,随机原始-双重邻近块坐标更新,预印本,2016年。
[26] G.Gilboa、M.Moeller和M.Burger,基于单齐次泛函的非线性谱分析:综述与展望,J.数学。成像视觉。,56(2016),第300–319页·Zbl 1409.94182号
[27] F.Knoll、M.Holler、T.Koesters、R.Otazo、K.Bredies和D.K.Sodickson,基于多通道图像正则化器的MR-PET联合重建,IEEE传输。《医学成像》,36(2017),第1-16页。
[28] J.Konec®ny®、J.Liu、P.Richta®rik和M.Taka®c®,近端环境下的微支撑半随机梯度下降,IEEE J.信号处理精选主题。,10(2016年),第242-255页。
[29] R.D.Kongskov、Y.Dong和K.Knudsen,定向全广义变分正则化,预印本,2017年。
[30] P.-L.狮子和B.Mercier,两个非线性算子和的分裂算法,SIAM J.数字。分析。,16(1979年),第964-979页·Zbl 0426.6500号
[31] A.Nedicí和D.P.Bertsekas,不可微优化的增量次梯度方法,SIAM J.优化。,12(2001),第109-138页·Zbl 0991.90099号
[32] J.M.Ollinger和J.A.Fessler,正电子发射断层成像IEEE信号处理。Mag.,14(1997),第43-55页。
[33] N.Parikh和S.P.Boyd,近似算法,找到。最佳趋势。,1(2014),第123–231页。
[34] 彭志忠、吴天武、徐玉英、严美男和尹伟伟,协调友好的结构、算法和应用,安。数学。科学。申请。,1(2016),第1-54页·Zbl 1432.65076号
[35] J.-C.Pesquet和A.Repetti,一类用于分布式优化的随机原对偶算法,预印本,2015年·Zbl 1336.65113号
[36] T.Pock和A.Chambolle,凸优化中一阶原对偶算法的对角线预处理,《IEEE计算机视觉国际会议论文集》,2011年,第1762-1769页。
[37] T.Pock、D.Cremers、H.Bischof和A.Chambolle,Mumford-Shah泛函极小化算法,《IEEE计算机视觉国际会议论文集》,2009年,第1133-1140页。
[38] Z.Qu和P.Richtaírik,任意采样下的坐标下降I:算法和复杂性,最佳。方法软件。,31(2016),第829–857页·Zbl 1365.90205号
[39] Z.Qu和P.Richtaírik,石英:任意采样的随机双坐标上升,《第28届神经信息处理系统国际会议论文集》,第1卷,2015年,第865-873页。
[40] P.Richtaárik和M.Takaáč,最小化复合函数的随机块坐标下降法的迭代复杂性,数学。程序。,144(2014),第1-38页·Zbl 1301.65051号
[41] P.Richtaárik和M.Takaáč,随机坐标下降法中的最优概率,最佳。莱特。,10(2016),第1233-1243页·兹比尔1353.90148
[42] P.Richtaárik和M.Takaáč,大数据优化的并行坐标下降法,数学。程序。,156(2016),第433-484页·Zbl 1342.90102号
[43] D.Rigie和P.La Riviere,基于约束总核变化最小化的多通道光谱CT数据联合重建,物理。医学生物学。,60(2015),第1741-1762页。
[44] R.T.Rockafellar,凸分析普林斯顿大学出版社,1970年·Zbl 0193.18401号
[45] L.Rosasco和S.Villa,随机惯性原对偶算法,预印本,2015年。
[46] M.Schmidt、N.Le Roux和F.Bach,用随机平均梯度最小化有限和,数学。程序。,162(2017年),第83–112页,第1030-6页·Zbl 1358.90073号
[47] M.Takaíc、A.Bijral、P.Richtaírik和N.Srebro,支持向量机的Mini-bactch主方法和对偶方法《第30届机器学习国际会议论文集》,施普林格出版社,2013年,第537-552页。
[48] 曾荫权,带有动量项和自适应步长规则的增量梯度(投影)方法、SIAM J.Optim.、。,8(1998),第506–531页·Zbl 0922.90131号
[49] T.Valkonen,具有空间自适应加速度的块逼近方法,预印本,2016年。
[50] W.van Aarle、W.J.Palenstijn、J.Cant、E.Janssens、F.Bleichrodt、A.Dabravolski、J.De Beenhouwer、K.Joost Batenburg和J.Sijbers,使用ASTRA工具箱进行快速灵活的X射线层析成像《光学快报》,24(2016),第25129-25147页。
[51] W.van Aarle、W.J.Palenstijn、J.De Beenhouwer、T.Altantzis、S.Bals、K.J.Batenburg和J.Sijbers,ASTRA工具箱:电子断层成像高级算法开发平台《超微显微镜》,157(2015),第35-47页。
[52] M.Wen、S.Yue、Y.Tan和J.Peng,单调包含的随机惯性原对偶不动点算法,预印本,2016年。
[53] Y.Zhang和L.Xiao,正则化经验风险最小化的随机原对偶坐标方法,载于《第32届国际机器学习大会论文集》,2015年,第1-34页。
[54] L.W.Zhong和J.T.Kwok,乘数的快速随机交替方向法,J.马赫。学习。研究,32(2014),第46-54页。
[55] Z.Zhu和A.J.Storkey,可分离鞍点问题的自适应随机原对偶坐标下降《数据库中的机器学习和知识发现》,A.Appice、P.P.Rodrigues、V.Santos Costa、C.Soares、J.Gama和A.Jorge编辑,Springer,2015年,第643-657页。
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。