×

非平衡最优运输问题的缩放算法。 (英语) Zbl 1402.90120号

摘要:本文介绍了一类新的快速算法来近似涉及非平衡最优运输的变分问题。虽然经典的最优传输只考虑归一化概率分布,但对于许多应用程序来说,能够计算任意正测度之间的某种松弛传输非常重要。最近几位作者提出了一类此类“非平衡”最优运输问题。在本文中,我们展示了如何将经典的熵正则化格式推广到这些非平衡问题。这就产生了快速、高度并行化的算法,这些算法仅通过执行传输耦合的对角线缩放(即逐点乘法)进行操作。它们是著名的Sinkhorn算法的推广。我们展示了这些方法如何用于求解不平衡输运、不平衡梯度流以及计算不平衡重心。我们展示了二维形状修改、颜色转移和生长模型的应用。

MSC公司:

90C25型 凸面编程
65K10码 数值优化和变分技术
68单位10 图像处理的计算方法
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] 阿奎,军事;Carlier、Guillaume、Wasserstein空间中的重心,SIAM J.Math。分析。,43, 2, 904-924 (2011) ·Zbl 1223.49045号 ·数字对象标识代码:10.1137/100805741
[2] 路易斯·菲利佩·索米尔;布阿勒姆·科尤德;Agueh,Martial,粒子图像测速的最佳传输,Commun。数学。科学。,13, 1, 269-296 (2015) ·Zbl 1309.76169号 ·doi:10.4310/CMS.2015.v13.n1.a13
[3] 路易吉·安布罗西奥;尼古拉·吉利(Nicola Gigli);Savar’e,Giuseppe,度量空间和概率测度空间中的梯度流,数学讲座ETH Z`“urich,x+334 pp.(2008),Birkh”,auser Verlag,巴塞尔·Zbl 1145.35001号
[4] Aurenhammer,F。;霍夫曼,F。;Aronov,B.,Minkowski型定理和最小二乘聚类,算法,20,1,61-76(1998)·Zbl 0895.68135号 ·doi:10.1007/PL00009187
[5] Bauschke,Heinz H。;Lewis,Adrian S.,Dykstra的Bregman投影算法:收敛证明,《优化》,48,4,409-427(2000)·Zbl 0992.90052号 ·doi:10.1080/02331930008844513
[6] Beck,Amir,关于凸规划交替极小化的收敛性及其在迭代加权最小二乘和分解方案中的应用,SIAM J.Optim。,25, 1, 185-209 (2015) ·Zbl 1358.90094号 ·数字对象标识码:10.1137/13094829X
[7] Jean-David Benamou;Brenier,Yann,Monge-Kantorovich质量传递问题的计算流体力学解,Numer。数学。,84, 3, 375-393 (2000) ·Zbl 0968.76069号 ·doi:10.1007/s002110050002
[8] Jean-David Benamou;纪尧姆·卡利埃(Guillaume Carlier);马可·库图里;卢卡·尼娜(Luca Nenna);Peyr’e,Gabriel,正则化运输问题的迭代Bregman预测,SIAM J.Sci。计算。,37、2、A1111-A1138(2015)·Zbl 1319.49073号 ·doi:10.1137/141000439
[9] Jean-David Benamou;纪尧姆·卡利埃(Guillaume Carlier);M’erigot,Quentin;Oudet,“Douard,涉及Monge Amp”ere算子的泛函的离散化,Numer。数学。,134, 3, 611-636 (2016) ·Zbl 1354.49061号 ·doi:10.1007/s00211-015-0781-y
[10] benamou2015增广Jean-David Benamou、Guillaume Carlier和Maxime Laborde,《沃瑟斯坦梯度流和应用的增广拉格朗日方法》(2015)·Zbl 1354.49066号
[11] 迪米特里·贝尔塞卡斯(Dimitri P.Bertsekas)。;Casta non,David A.,运输问题的拍卖算法,Ann.Oper。决议,20,1-4,67-96(1989)·Zbl 0705.90061号 ·doi:10.1007/BF02216923
[12] Bonneel-deplacement N.Bonneel、M.van de Panne、S.Paris和W.Heidrich,《使用拉格朗日质量传输的位移插值》,《ACM图形交易》(SIGGRAPH ASIA’11)30(2011),第6期。
[13] Borwein,J.M。;刘易斯,A.S.,类熵最小化问题的对偶关系,SIAM J.控制优化。,29, 2, 325-338 (1991) ·Zbl 0797.49030号 ·doi:10.1137/0329017
[14] Br’egman,L.M.,一种寻找凸集公共点的松弛方法及其在凸规划问题求解中的应用。Mat.i Mat.Fiz.公司。,7, 620-631 (1967) ·Zbl 0186.23807号
[15] Brenier,Yann,向量值函数的极因子分解和单调重排,Comm.Pure Appl。数学。,44, 4, 375-417 (1991) ·Zbl 0738.46011号 ·doi:10.1002/cpa.3160440402
[16] 马丁·汉堡包;乔斯·卡里略(Jos’e A.Carrillo)。;Wolfram,Marie-Terese,非线性扩散方程的混合有限元方法,Kinet。相关。模型,3,1,59-83(2010)·兹比尔1194.35026 ·doi:10.3934/krm.2010.3.59
[17] 马丁·汉堡包;马泽娜·弗兰内克(Marzena Franek);Sch“onlieb,Carola-Bibiane,基于最优运输的正则回归和密度估计,应用数学研究快报,AMRX,2209-253(2012)·Zbl 1318.62122号
[18] 雷纳·伯克德(Rainer Burkard);毛罗·德尔·阿米科;Martello,Silvano,分配问题,xx+382页(2009),工业和应用数学学会(SIAM),宾夕法尼亚州费城·Zbl 1196.90002号 ·doi:10.1137/1.9780898717754
[19] 路易斯·卡法雷利(Luis A.Caffarelli)。;Robert J.McCann,《最优运输中的自由边界和Monge-Amp障碍问题》,《数学年鉴》。(2), 171, 2, 673-730 (2010) ·兹比尔1196.35231 ·doi:10.4007/annals.2010.171.673
[20] 纪尧姆·卡利埃(Guillaume Carlier);文森特·杜瓦尔(Vincent Duval);加布里埃尔·佩尔;Schmitzer,Bernhard,最优输运和梯度流的熵格式收敛,SIAM J.Math。分析。,49, 2, 1385-1418 (2017) ·Zbl 1365.90197号 ·doi:10.1137/15M1050264
[21] 乔斯·卡里略(Jos’e A.Carrillo)。;Alina Chertock;黄,杨红,梯度流结构非线性非局部方程的有限体积法,Commun。计算。物理。,17, 1, 233-258 (2015) ·Zbl 1388.65077号 ·doi:10.4208/cicp.160214.010814a
[22] Yair Censor;Reich,Simeon,带Bregman投影的Dykstra算法,Commun。申请。分析。,2407-419年2月3日(1998年)·Zbl 0897.90155号
[23] Antonin Chambolle;Pock,Thomas,关于一阶原对偶算法的遍历收敛速度,数学。程序。,159,1-2,序列号。A、 253-287(2016)·Zbl 1350.49035号 ·doi:10.1007/s10107-015-0957-3
[24] 2015-chizat-unbalanced L.chizat、G.Peyr’e、B.Schmitzer和F-X.Vialard,《非平衡最优运输:几何和康托洛维奇公式》,预印本1508.05216,Arxiv,2015年·Zbl 1387.49066号
[25] 2015-chizat-interpolating L.chizat、B.Schmitzer、G.Peyr’e和F-X.Vialard,《最佳运输和Fischer-Rao之间的内插距离》,预印本1506.06430,Arxiv,2015年·Zbl 1385.49031号
[26] CuturiSinkhorn M.Cuturi,《Sinkhorn-distances:最优传输的光速计算》,神经信息处理系统(NIPS)进展26,2013年,第2292-2300页。
[27] CuturiBarycenter M.Cuturi和A.Doucet,Wasserstein重心的快速计算,ICML论文集,2014年第32卷。
[28] delon2006movie J.Delon,电影和视频比例时间均衡应用于闪烁减少,IEEE Transactions on Image Processing 15(2006),第1期,241-248。
[29] Deming,W.Edwards;弗雷德里克·F·斯蒂芬(Frederick F.Stephan),《关于已知预期边际总和时采样频率表的最小二乘调整》(Ann.Math)。统计学,11427-444(1940)·Zbl 0024.05502号
[30] 戴克斯特拉(Dykstra),理查德·L(Richard L.),《限制最小二乘回归算法》(An algorithm for restricted least squares regression),J.Amer。统计师。协会,78,384,837-842(1983)·Zbl 0535.62063号
[31] Eckstein,Jonathan,使用Bregman函数的非线性近点算法,以及凸编程应用,数学。操作。第18号、第1号、第202-226号决议(1993年)·Zbl 0807.47036号 ·doi:10.1287/门。2002年18月18日
[32] 贾拉尔·法迪利(Jalal M.Fadili)。;Peyr\'e,Gabriel,一阶方案的总变异投影,IEEE Trans。图像处理。,20, 3, 657-669 (2011) ·Zbl 1372.94077号 ·doi:10.1109/TIP.2010.2072512
[33] 菲加利,阿莱西奥,最优部分运输问题,Arch。定额。机械。分析。,195, 2, 533-560 (2010) ·Zbl 1245.49059号 ·doi:10.1007/s00205-008-0212-7
[34] 乔尔·富兰克林;Lorenz,Jens,关于多维矩阵的标度,线性代数应用。,114/115, 717-735 (1989) ·Zbl 0674.15001号 ·doi:10.1016/0024-3795(89)90490-4
[35] FrognerNIPS C.Frogner、C.Zhang、H.Mobahi、M.Araya-Polo和T.Poggio,《Wasserstein失学》,预印本1506.05439,Arxiv,2015年。
[36] Galichon-Entropic A.Galichon和B.Salani’e,《权衡匹配:揭示对竞争特征的偏好》,技术报告,预印本SSRN-14873072009。
[37] Gallou,“et,Thomas O.;Monsaingeon,L\'”eonard,Kantorovich-Fisher-Rao梯度流的JKO分裂方案,SIAM J.Math。分析。,49, 2, 1100-1130 (2017) ·Zbl 1372.35126号 ·doi:10.137/16M106666X
[38] Hanin,Leonid G.,Kantorovich-Rubinstein范数及其在Lipschitz空间理论中的应用,Proc。阿默尔。数学。《社会学杂志》,115,2,345-352(1992)·Zbl 0768.46012号 ·doi:10.2307/2159251
[39] 理查德·乔丹(Richard Jordan);David Kinderlehrer;Otto,Felix,Fokker-Planck方程的变分公式,SIAM J.Math。分析。,29, 1, 1-17 (1998) ·Zbl 0915.35120号 ·doi:10.1137/S0036141096303359
[40] Kantorovitch,L.,《关于物质易位》,C.R.(Doklady)Acad。科学。URSS(N.S.),37,199-201(1942)·Zbl 0061.09705号
[41] kondratyev2015 S.Kondratyev、L.Monsaingeon和D.Vorotnikov,有限氡测量空间上的新最佳运输距离,技术报告,Pre-print,2015年·Zbl 1375.49062号
[42] Yuille InvisibleHand1994 J.J.Kosowsky和A.L.Yuile,《看不见的手算法:用统计物理解决分配问题》,《神经网络》7(1994),第3期,477-490·兹比尔0809.90110
[43] labde2015some Maxime Laborde,关于wasserstein梯度流扰动的一些非线性演化系统,arXiv预印本arXiv:1506.00126(2015)。
[44] 克里斯蒂安·洛纳尔(Christian L’eonard),《从薛定谔问题到蒙格·坎托罗维奇问题》(From the Schr“odinger problem to the Monge-Kantorovich problem),《功能分析杂志》(J.Funct.Anal.),第262、4期,1879-1920页(2012年)·Zbl 1236.49088号 ·doi:10.1016/j.jfa.2011.11.026
[45] Christian L’eonard,《Schr’odinger问题及其与最优运输的一些联系的调查》,《离散控制动力系统》,34,4,1533-1574(2014)·Zbl 1277.49052号 ·doi:10.3934/dcds.2014.34.1533
[46] L’evy,Bruno,三维(L_2)半离散最优传输的数值算法,ESAIM Math。模型。数字。分析。,49, 6, 1693-1715 (2015) ·Zbl 1331.49037号 ·doi:10.1051/m2/2015年5月5日
[47] 马提亚斯·列罗;亚历山大·米尔克;Savar’e,Giuseppe,《反应竞争中的最优运输:Hellinger-Kantorovich距离和测地曲线》,SIAM J.Math。分析。,48, 4, 2869-2911 (2016) ·Zbl 1347.49078号 ·数字对象标识代码:10.1137/15M1041420
[48] LieroMielkeSavare Short Matthias Liero、Alexander Mielke和Giuseppe Savar’e,《反应竞争中的最优运输:Hellinger-Kantorovich距离和测地曲线》,ArXiv电子版(2015)·Zbl 1347.49078号
[49] Maas,Jan;马丁·伦普;Sch“onlieb,Carola;Simon,Stefan,包括耗散和密度调制在内的图像最佳传输的广义模型,ESAIM数学模型,数值分析,49,6,1745-1769(2015)·Zbl 1348.94009号 ·doi:10.1051/m2安/2015043
[50] 伯特兰·莫里;Aude Roudneff-Chupin;Filippo Santambrogio,梯度流型宏观人群运动模型,数学。模型方法应用。科学。,20, 10, 1787-1821 (2010) ·Zbl 1223.35116号 ·doi:10.1142/S0218202510004799
[51] 伯特兰·莫里;Aude Roudneff-Chupin;菲利波圣坦布罗吉奥;Venel,Juliette,处理人群运动建模中的拥堵,Netw。埃特罗格。媒体,6,3,485-519(2011)·Zbl 1260.49039号 ·doi:10.3934/nhm.2011.6.485
[52] Merigot11 Q.M’origot,多尺度优化运输方法,计算。图表。论坛30(2011),第5期,1583-1592。
[53] Monge1781 G.Monge,《科学史》(1781),666-704。
[54] NguyenFB2015年Q.V。Nguyen,与Bregman距离的前后分割,arXiv:11505.05198(2015)。
[55] Otto,Felix,耗散演化方程的几何:多孔介质方程,Comm.偏微分方程,26,1-2,101-174(2001)·Zbl 0984.35089号 ·doi:10.1081/PDE-100002243
[56] 尼古拉斯·帕帕达基斯(Nicolas Papadakis);加布里埃尔·佩尔;Oudet,Edouard,近端分裂的最佳运输,SIAM J.成像科学。,7, 1, 212-238 (2014) ·Zbl 1295.90047号 ·doi:10.1137/130920058
[57] 贝诺·珀沙姆。;费尔南多·奎尔斯;V’azquez,Juan Luis,肿瘤生长力学模型的Hele Shaw渐近性,Arch。定额。机械。分析。,212, 1, 93-127 (2014) ·兹比尔1293.35347 ·doi:10.1007/s00205-013-0704-y
[58] Peyr’e,Gabriel,Wasserstein梯度流的熵近似,SIAM J.Imaging Sci。,8, 4, 2323-2351 (2015) ·Zbl 1335.90068号 ·doi:10.1137/15M1010087
[59] Piccoli,Benedetto;Rossi,Francesco,广义Wasserstein距离及其在带源传输方程中的应用,Arch。定额。机械。分析。,211, 1, 335-358 (2014) ·Zbl 1480.35378号 ·文件编号:10.1007/s00205-013-0669-x
[60] pite2007automated F.Piti\e,A.C.Kokaram,and R.Dahyot,《使用颜色分布转移的自动颜色分级》,《计算机视觉和图像理解》107(2007),第1期,第123-137页。
[61] 朱利安·拉宾;Papadakis,Nicolas,凸彩色图像分割与最佳运输距离。计算机视觉中的尺度空间和变分方法,计算机课堂讲稿。科学。9087,256-269(2015),查姆斯普林格·兹比尔1444.94023 ·doi:10.1007/978-3-319-18461-6\_21
[62] Rockafellar,R.Tyrrell,涉及凸函数的极值问题的对偶性和稳定性,太平洋数学杂志。,21, 167-187 (1967) ·Zbl 0154.44902号
[63] Rockafellar,R.T.,凸泛函积分,太平洋数学杂志。,24, 525-539 (1968) ·Zbl 0159.43804号
[64] rockafellar1976积分R.T.Rockafellar,积分泛函,正规被积函数和可测选择,非线性算子和变分法,Springer,1976年,第157-207页·Zbl 0374.49001号
[65] rockafelar2009varianced R.T.Rockafellar和R.J-B.Wets,《变量分析》,第317卷,Springer科学与商业媒体,2009年·Zbl 0888.49001号
[66] RubTomGui00 Y.Rubner、C.Tomasi和L.J.Guibas,《地球运动者的距离作为图像检索的度量》,国际计算机视觉杂志40(2000),第2期·Zbl 1012.68705号
[67] Santambrogio,Filippo,应用数学家的最佳传输,非线性微分方程及其应用进展87,xxvii+353 pp.(2015),Birkh“auser/Springer,Cham·Zbl 1401.49002号 ·doi:10.1007/978-3-319-20828-2
[68] Schmitzer,Bernhard,密集最优运输的稀疏多尺度算法,J.Math。成像视觉,56,2,238-259(2016)·Zbl 1351.49037号 ·doi:10.1007/s10851-016-0653-9
[69] SchmitzerScaling2016 Bernhard Schmitzer,熵正则传输问题的稳定稀疏缩放算法,https://arxiv.org/abs/1610.06519, 2016. ·Zbl 1422.49034号
[70] Schroedinger31 E.Schr“odinger,”Uber die Umkehrung der Naturgesetze,Sitzungsberichte Preuss。阿卡德。威斯。柏林。物理学。数学。144 (1931), 144-153. ·兹比尔0001.37503
[71] sharify2011解决方案Meisam Sharify、St\'ephane Gaubert和Laura Grigori,通过对角线缩放算法解决最优分配问题,arXiv预印本arXiv:1104.3830(2011)·Zbl 1186.15007号
[72] Richard Sinkhorn,《任意正矩阵和双重随机矩阵之间的关系》,《数学年鉴》。统计学。,35, 876-879 (1964) ·Zbl 0134.25302号 ·doi:10.1214/aoms/1177703591
[73] 2015年solomon siggraph J.solomon、F.de Goes、G.Peyr \e e、M.Cuturi、A.Butscher、A.Nguyen、T.Du和L.Guibas,《卷积Wasserstein距离:几何域上的高效最优传输》,《ACM图形交易》(Proc.siggraph 2015)34(2015),第4期,66:1-66:11·Zbl 1334.68267号
[74] Solomon-ICML J.Solomon、R.M.Rustamov、L.Guibas和A.Butscher,《半监督学习的Wasserstein传播》,Proc。ICML 2014年、2014年。
[75] Thompson,A.C.,关于偏序向量空间中的某些压缩映射。,程序。阿默尔。数学。《社会学杂志》,第14期,第438-443页(1963年)·Zbl 0147.34903号 ·doi:10.2307/2033816
[76] 维拉尼,C’edric,最佳交通主题,数学研究生课程58,xvi+370 pp.(2003),美国数学学会,普罗维登斯,RI·Zbl 1013.00028号 ·doi:10.1007/b2016年
[77] 维拉尼,C’edric,《最佳交通》,格伦德伦·德·马塞马申·维森沙芬(Grandlehren der Mathematischen Wissenschaften)【数学科学基本原理】338,xxii+973 pp.(2009),柏林斯普林格-弗拉格出版社·Zbl 1156.53003号 ·doi:10.1007/978-3-540-71050-9
[78] Wang Banerjee-ADMM H.Wang和A.Banerjee,Bregman乘数交替方向法,预印本arXiv:1306.3203(2014)。
[79] Jonathan Zinsl;Matthes,Daniel,简并扩散方程组的传输距离和测地凸性,计算变量偏微分方程,54,4,3397-3438(2015)·Zbl 1342.49067号 ·doi:10.1007/s00526-015-0909-z
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。