乔纳斯·盖平;迈克尔·穆勒 基于非凸优化的组合优化。 （英语） Zbl 1419.90089号 SIAM J.成像科学。 11，第4期，2494-2528（2018）. 摘要：非凸复合函数的最小化可以模拟各种成像任务。解决此类问题的一类流行算法是优化-最小化技术，该技术通过易于最小化的优化函数迭代逼近复合非凸函数。大多数技术，例如梯度下降，都使用凸优化因子，以确保优化因子易于最小化。在我们的工作中，我们考虑了这些函数的一类自然的非凸优化，并证明了这些优化对于全局收敛的优化方案仍然足够。数值结果表明，当非凸主元求解为全局最优时，应用该方案通常可以获得比以往的优化-最小化方法更好的局部最优解。最后，我们从原始飞行时间数据中演示了我们的深度超分辨率算法的行为。 引用于4文件 MSC公司： 90C26型 非凸规划，全局优化 90C06型 数学规划中的大尺度问题 68单位10 图像处理的计算方法 32秒20 半分析集、子分析集和泛化 65K10码 数值优化和变分技术 47J06型 非线性不适定问题 关键词：非凸优化;一阶优化;多数化最小化;Kurdyka-Łojasiewicz不等式;飞行时间深度重建 软件：MCS公司;亚当;iPiano公司;ASA公司;并入PT_90 PDF格式BibTeX公司 XML格式引用 \textit{J.Geiping}和\textit{M.Moeller}，SIAM J.成像科学。11，第4号，2494--2528（2018；Zbl 1419.90089） 全文： 内政部 arXiv公司 参考文献： [1] G.Alberti、G.Bouchitteí和G.Dal Maso，{\it Mumford-Shah泛函和自由不连续性问题的校准方法}，《计算变量偏微分方程》，16（2003），第299-333页·Zbl 1015.49008号 [2] M.Artina、M.Fornasier和F.Solombrino，{线性约束非光滑非凸极小化}，SIAM J.Optim。，23（2013），第1904-1937页·Zbl 1277.49039号 [3] H.Attouch，J.Bolt和B.F.Svaiter，{半代数和驯化问题下降方法的收敛性：近似算法，向前向后分裂，正则高斯Seidel方法}，数学。程序。，137（2013），第91-129页·Zbl 1260.49048号 [4] C.Audet和J.E.Dennis，Jr.，{广义模式搜索分析}，SIAM J.Optim。，13（2002），第889-903页·Zbl 1053.90118号 [5] C.Bardaro、J.Musielak和G.Vinti，《非线性积分算子及其应用》，Walter de Gruyter，柏林，2003年·Zbl 1030.47003号 [6] H.H.Bauschke，J.Bolte，M.Teboulle，{超越Lipschitz梯度连续性的下降引理：一阶方法重访与应用}，数学。操作。决议，42（2017），第330-348页·Zbl 1364.90251号 [7] H.H.Bauschke和J.J.Borwein，{勒让德函数和随机Bregman投影方法}，J.凸分析。，4（1997年），第27-67页·Zbl 0894.49019号 [8] H.H.Bauschke、J.M.Borwein和P.L.Combettes，{基本光滑性、基本严格凸性和Banach空间中的Legendre函数}，Commun。康斯坦普。数学。，03（2001），第615-647页·Zbl 1032.49025号 [9] A.Beck和M.Teboulle，{线性反问题的快速迭代收缩阈值算法}，SIAM J.成像科学。，2（2009），第183-202页·Zbl 1175.94009号 [10] M.Benning、M.M.Betcke、M.J.Ehrhardt和C.Scho¨nlieb，{广义Bregman距离框架中的梯度下降}，《几何-数值积分及其应用联合会议》，第74卷，墨尔本，2017年，密歇根州讲义，九州大学，日本福冈，2017年第40-45页。 [11] J.Bolt，A.Danilidis和A.Lewis，{it非光滑子分析函数的Łojasiewicz不等式及其在次梯度动力系统中的应用}，SIAM J.Optim。，17（2007），第1205-1223页·Zbl 1129.26012号 [12] J.Bolt、A.Danilidis、A.Lewis和M.Shiota，{分层函数的Clarke次梯度}，SIAM J.Optim。，18（2007），第556-572页·Zbl 1142.49006号 [13] J.Bolt和E.Pauwels，{半代数和驯化程序的优化-最小化程序和SQP方法的收敛性}，数学。操作。Res.，41（2016），第442-465页·Zbl 1338.65156号 [14] J.Bolt、S.Sabach和M.Teboulle，{非凸和非光滑问题的近似交替线性化最小化}，数学。程序。，146（2014），第459-494页·兹比尔1297.90125 [15] J.Bolt、S.Sabach和M.Teboulle，{非凸拉格朗日优化：监控方案和全局收敛}，数学。操作。Res.，以显示·兹比尔1297.90125 [16] J.Bolt、S.Sabach、M.Teboulle和Y.Vaisbourd，{超越凸性和Lipschitz梯度连续性的一阶方法及其在二次反问题中的应用}，SIAM J.Optim。，28（2018），第2131-2151页·Zbl 1402.90118号 [17] S.Bonettini、I.Loris、F.Porta和M.Prato，{非光滑优化的可变度量非精确线搜索方法}，SIAM J.Optim。，26（2016），第891-921页·Zbl 1338.65157号 [18] Y.Boykov、O.Veksler和R.Zabih，{通过图切割快速近似能量最小化}，IEEE Trans。模式分析。马赫。智力。，23（2001），第1222-1239页。 [19] M.Burger和S.Osher，《电视动物园指南》，《基于PDE的成像重建方法》，数学课堂讲稿。2090，施普林格，查姆，瑞士，2013年·Zbl 1342.94014号 [20] A.Chambolle，D.Cremers和T.Pock，最小分区的凸方法，SIAM J.Imaging Sci。，5（2012），第1113-1158页·Zbl 1256.49040号 [21] A.Chambolle和T.Pock，{\it凸问题的一阶原对偶算法及其在成像中的应用}，J.Math。成像视觉。，40（2011年），第120-145页·Zbl 1255.68217号 [22] T.F.Chan、S.Esedoglu和M.Nikolova，{寻找图像分割和去噪模型全局极小值的算法}，SIAM J.Appl。数学。，66（2006），第1632-1648页·Zbl 1117.94002号 [23] G.H-G.Chen和R.T.Rockafellar，{正反向分裂中的收敛速度}，SIAM J.Optim。，7（1997），第421-444页·Zbl 0876.49009号 [24] E.Chouzenoux、J.-C.Pesquet和A.Repetti，《最小化可微函数和凸函数之和的可变度量向前向后算法》，J.Optim。理论应用。，162（2014），第107-132页·Zbl 1318.90058号 [25] D.Drusvyatskiy，{变分数学中的斜率和几何}，康奈尔大学博士论文，纽约州伊萨卡，2013年。 [26] D.Drusvyatskiy、A.D.Ioffe和A.S.Lewis，{使用类泰勒模型的非光滑优化：误差界、收敛和终止准则}，预印本，arXiv:1610.03446[math]，2016·兹比尔1459.65083 [27] D.Drusvyatskiy和C.Paquette，{最小化凸函数和光滑映射组合的效率}，数学。公司。，出现·Zbl 1398.49012号 [28] T.Frerix、T.Moíllenhoff、M.Moeller和D.Cremers，{\it Proximal Backpropagation}，预印本，2018年。 [29] D.Gabay和B.Mercier，通过有限元近似求解非线性变分问题的对偶算法，Comput。数学。申请。，2（1976年），第17-40页·Zbl 0352.65034号 [30] D.E.Goldberg，《搜索、优化和机器学习中的遗传算法》，Addison-Wesley，马萨诸塞州波士顿，1989年·Zbl 0721.68056号 [31] E.R.Hansen和G.W.Walster，{使用区间分析的全局优化}，Monogr。文本b。纯应用程序。数学。264，第二版，修订和扩充，Marcel Dekker，纽约，修订和扩大版，2004年·Zbl 1103.90092号 [32] F.Hanzely、P.Richtarik和L.Xiao，{相对光滑凸优化的加速Bregman近似梯度法}，预印本，arXiv:1808.03045[math]，2018·Zbl 1473.90114号 [33] D.R.Hunter和K.Lange，《MM算法教程》，Amer。统计人员。，58（2004），第30-37页。 [34] W.Huyer和A.Neumaier，{通过多级坐标搜索进行全局优化}，J.Global Optim。，14（1999），第331-355页·Zbl 0956.90045号 [35] L.Ingber，《自适应模拟退火（ASA）：经验教训》，《控制网络》。，25（1996），第33-54页·Zbl 0860.93035号 [36] A.D.Ioffe，{\it驯服优化的邀请}，SIAM J.Optim。，19（2009），第1894-1917页·邮编：1182.90083 [37] H.Ishikawa和D.Geiger，{\it Segmentation by grouping junctions}，《IEEE计算机学会计算机视觉和模式识别会议论文集》，CVPR’98，IEEE计算机协会，华盛顿特区，1998年，第125-131页。 [38] R.B.Kearfott，{严格的全球搜索：连续问题}，荷兰多德雷赫特Kluwer出版社，1996年·Zbl 0876.90082号 [39] J.Kennedy和R.C.Eberhardt，《1995年IEEE神经网络国际会议论文集》，IEEE，新泽西州皮斯卡塔韦，1995年，第1942-1948页。 [40] D.P.Kingma和J.Ba，《亚当：随机优化方法》，预印本，2014年。 [41] V.Kolmogorov和R.Zabin，{通过图切割可以最小化哪些能量函数？}，IEEE Trans。模式分析。马赫。智力。，26（2004），第147-159页。 [42] G.Kuschk和D.Cremers，{使用变分方法快速准确地进行大规模立体重建}，2013年IEEE国际计算机视觉研讨会，IEEE，新泽西州皮斯卡塔韦，2013年，第700-707页。 [43] R.Lange，{使用CMOS/CDD技术中的定制固态图像传感器进行三维飞行时间距离测量}，博士论文，德国西根西根大学，2000年。 [44] E.Laude、T.Moöllenhoff、M.Moeller、J.Lellmann和D.Cremers，{it Sublabel-矢量多标签能量的精确凸松弛}，收录于计算机视觉\textendash ECCV 2016，计算机课堂讲稿。科学。9905，瑞士查姆施普林格，2016年，第614-627页。 [45] A.S.Lewis和S.J.Wright，{合成最小化的近似方法}，数学。程序。，158（2016），第501-546页·Zbl 1345.49041号 [46] M.Lindner和A.Kolb，《PMFD距离传感器的横向和深度校准》，摘自《可视化计算国际研讨会》，柏林斯普林格，2006年，第524-533页。 [47] D.G.Luenberger和Y.Ye，《线性和非线性规划》，第4版，施普林格，纽约，2015年·Zbl 1207.90003号 [48] J.Mairal，{使用一阶代理函数进行优化}，《第30届机器学习国际会议论文集》，第28卷，ICML'13，佐治亚州亚特兰大，2013年，纽约州红钩市Curran，pp.III-783-III-791。 [49] T.Moöllenhoff和D.Cremers，{非凸自由间断问题的子标签精确离散化}，《IEEE计算机视觉国际会议论文集》，IEEE计算机学会，加利福尼亚州洛斯阿拉米托斯，2017年，第1183-1191页。 [50] T.Moöllenhoff，E.Laude，M.Moeller，J.Lellmann，and D.Cremers，{非凸能量的亚标签精确松弛}，《IEEE计算机视觉和模式识别会议论文集》，IEEE，新泽西州皮斯卡塔韦，2016年，第3948-3956页。 [51] H.Muöhlenbein、M.Schomish和J.Born，《作为函数优化器的并行遗传算法》，《并行计算》。，17（1991），第619-632页·Zbl 0735.65040号 [52] Y.Nesterov，{凸优化入门讲座}，应用。最佳方案。87，斯普林格，马萨诸塞州波士顿，2004年·Zbl 1086.90045号 [53] Y.Nesterov，{\it最小化复合函数的梯度方法}，数学。程序。，140（2013），第125-161页·Zbl 1287.90067号 [54] P.Ochs，{降维方法和块坐标变量度量iPiano}的统一抽象不精确收敛定理，SIAM J.Optim。，出现·Zbl 1411.32009年 [55] P.Ochs，Y.Chen，T.Brox，and T.Pock，{\it iPiano:非凸优化的惯性近似算法}，SIAM J.成像科学。，7（2014），第1388-1419页·Zbl 1296.90094号 [56] P.Ochs、A.Dosovitskiy、T.Brox和T.Pock，{\it计算机视觉中非光滑非凸优化的迭代L1算法}，《IEEE计算机视觉和模式识别会议论文集》，IEEE，新泽西州皮斯卡塔韦，2013年，第1759-1766页。 [57] P.Ochs，A.Dosovitskiy，T.Brox，and T.Pock，{关于计算机视觉中非光滑非凸优化的迭代重加权算法}，SIAM J.成像科学。，8（2015），第331-372页·Zbl 1326.65078号 [58] P.Ochs，J.Fadili，and T.Brox，{it Non-smooth Non-convex Bregman Minimization:Unification and New Algorithms}，预印本，arXiv:1707.02278[cs，math]，2017·Zbl 1416.49015号 [59] E.Pauwels，｛\it组合优化中收敛分析的值函数方法｝，Oper。Res.Lett.公司。，44（2016），第790-795页·Zbl 1408.90283号 [60] T.Pock，D.Cremers，H.Bischof，and A.Chambolle，{凸正则化变分模型的整体解}，SIAM J.成像科学。，3（2010年），第1122-1145页·Zbl 1202.49031号 [61] R.Precup，《非线性积分方程中的方法》，施普林格，多德雷赫特，荷兰，2002年·Zbl 1060.65136号 [62] R.T.Rockafellar，{凸分析}，普林斯顿大学出版社，新泽西州普林斯顿，1970年·Zbl 0193.18401号 [63] R.T.Rockafellar和R.J.-B.Wets，{变分分析}，格兰德伦数学。威斯。317，第三版，施普林格，柏林，2009年。 [64] L.I.Rudin、S.Osher和E.Fatemi，{基于非线性总变分的噪声去除算法}，Phys。D、 60（1992），第259-268页·Zbl 0780.49028号 [65] D.Scharstein、H.Hirschmuöller、Y.Kitajima、G.Krathwohl、N.Neš、X.Wang和P.Westling，{高分辨率立体数据集，具有亚像素级精确地面真值}，《模式识别》，《计算讲义》。科学。8753，Springer，Cham，2014年，第31-42页。 [66] O.Scherzer、M.Grasmair、H.Grossauer、M.Haltmeier和F.Lenzen，《成像中的变分方法》，应用。数学。科学。167，施普林格，纽约，2009年·兹比尔1177.68245 [67] E.Strekalovskiy、A.Chambolle和D.Cremers，{耦合正则化向量问题的凸松弛}，SIAM J.成像科学。，7（2014），第294-336页·Zbl 1298.68288号 [68] Y.Sun、P.Babu和D.P.Palomar，《信号处理、通信和机器学习中的专业化最小化算法》，IEEE Trans。信号处理。，65（2017），第794-816页·Zbl 1414.94595号 [69] 陶培东（P.D.Tao）和安乐泰（L.T.H.An），《DC编程的凸分析方法：理论、算法和应用》，《数学学报》。越南。，22（1997），第289-355页·兹伯利0895.90152 [70] Z.Ugray、L.Lasdon、J.Plummer、F.Glover、J.Kelly和R.Martií，《分散搜索和局部NLP解算器：全局优化的多部分框架》，INFORMS J.Compute。，19（2007），第328-340页·Zbl 1241.90093号 [71] T.Valkonen，{it非线性算子的原对偶混合梯度法及其在MRI中的应用}，反问题，30（2014），055012·Zbl 1310.47081号 [72] 吴昌凤，{论EM算法的收敛性}，年鉴统计。，11（1983年），第95-103页·Zbl 0517.62035号 [73] L.Xiao、F.Heide、M.O'Toole、A.Kolb、M.B.Hullin、K.Kutulakos和W.Heidrich，《飞行时间深度相机的散焦去模糊和超分辨率》，2015年IEEE计算机视觉和模式识别会议，IEEE，新泽西州皮斯卡塔韦，2015年，第2376-2384页。 此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。