×
马可·库图里;加布里埃尔·佩雷

半对偶正则最优输运。 （英语） Zbl 1402.49037号

SIAM版本。 60，第4期，941-965（2018）.
摘要：涉及Wasserstein距离和更普遍的最优传输（OT）理论的变分问题在数据科学中发挥着越来越重要的作用。此类问题可用于从各种概率测度中形成样本测度，如Wasserstein重心问题，或进行参数推断和密度拟合，其中损失是根据观测测度的最佳运输成本来衡量的。尽管概念上很简单，但这些问题在计算上很有挑战性，因为它们涉及到最小化本身难以计算的过量量（Wasserstein距离）。熵正则化最近作为一种有效的工具出现，可以近似求解此类变分Wasserstein问题。在本文中，我们对这些正则化技术进行了彻底的对偶考察。特别地，我们展示了经典OT中的重要概念，如（c）-变换和半离散方法如何在正则化环境中转化为类似的思想。这些对偶公式导致了光滑的变分问题，可以使用光滑的、可微的和凸的优化问题来解决这些问题，这些优化问题比它们的非正则对偶公式更容易实现，并且在数值上更稳定。通过将该方法应用于Wasserstein重心和空间正则化泛函梯度流的计算，我们说明了该方法的通用性。

引用于1审查
引用于7文件

MSC公司：

20年第49季度 几何测量理论环境中的变分问题
93E20型 最优随机控制
49N60型 最优控制中解的正则性
49J20型 偏微分方程最优控制问题的存在性理论
65D99型 数值近似和计算几何（主要是算法）
68单位10 图像处理的计算方法
90C25型 凸面编程

关键词：

最佳运输;瓦瑟斯坦重心;Sinkhorn算法;熵正则化;梯度流;凸优化

软件：

EMD公司
PDF格式BibTeX公司 XML格式引用
\textit{M.Cuturi}和\textit{G.Peyré}，SIAM Rev.60，No.4，941--965（2018；Zbl 1402.49037）
全文： 内政部 arXiv公司

参考文献：

[1] I.亚伯拉罕、R.亚伯拉罕（R.Abraham）、M.Bergounioux和G.Carlier，从几个角度进行层析重建：一种多边缘最优传输方法，申请。数学。最佳。，75（2017年），第55–73页·Zbl 1456.49035号
[2] M.Agueh和G.Carlier，瓦瑟斯坦空间中的重心，SIAM J.数学。分析。，43（2011），第904-924页·Zbl 1223.49045号
[3] Z.Allen-Zhu、Y.Li、R.Oliveira和A.Wigderson，矩阵缩放的更快算法，arXiv预印本，2017年。
[4] L.Ambrosio、N.Gigli和G.Savareí，度量空间和概率测度空间中的梯度流2006年，纽约施普林格。
[5] F.奥伦海默，电源图：属性、算法和应用，SIAM J.计算。，16（1987），第78-96页·Zbl 0616.52007号
[6] F.Aurenhammer、F.Hoffmann和B.Aronov，Minkowski型定理与最小二乘聚类《算法》，20（1998），第61-76页·Zbl 0895.68135号
[7] A.Banerjee、S.Merugu、I.S.Dhillon和J.Ghosh，带Bregman发散的聚类，J.马赫。学习。第6号决议（2005年），第1705-1749页·Zbl 1190.62117号
[8] H.H.Bauschke和P.L.Combettes，Hilbert空间中的凸分析和单调算子理论，Springer-Verlag，纽约，2011年·Zbl 1218.47001号
[9] A.Beck和M.Teboulle，线性反问题的快速迭代收缩阈值算法，SIAM J.成像科学。，2（2009年），第183-202页·Zbl 1175.94009号
[10] J.-D.Benamou、G.Carlier、M.Cuturi、L.Nenna和G.Peyreí，正则化运输问题的迭代Bregman投影，SIAM J.科学。计算。，37（2015），第A1111–A1138页·Zbl 1319.49073号
[11] J.Bigot和T.Klein，Wasserstein空间中种群重心的一致估计，预印本，2012年。
[12] N.Bonneel、G.Peyreí和M.Cuturi，Wasserstein重心坐标：使用最佳传输的直方图回归，ACM变速器。图形，35（2016），第71条。
[13] N.Bonneel、J.Rabin、G.Peyreí和H.Pfister，切片和氡Wasserstein测量重心，J.数学。《成像视觉》，51（2015），第22-45页·Zbl 1332.94014号
[14] N.Bonneel、M.van de Panne、S.Paris和W.Heidrich，基于拉格朗日质量输运的位移插值，ACM变速器。图形（SIGGRAPH ASIA’11），30（2011），第158条。
[15] S.Boyd和L.Vandenberghe，凸优化，剑桥大学出版社，英国剑桥，2004年·Zbl 1058.90049号
[16] M.Burger、M.Franeka和C.-B.Schonlieb，基于最优运输的正则回归和密度估计，申请。数学。Res.Express，2（2012），第209-253页·Zbl 1318.62122号
[17] G.Carlier、A.Oberman和E.Oudet，团队与Wasserstein重心匹配的数值方法，ESAIM数学。模型。数字。分析。，49（2015），第1621–1642页·兹比尔1331.49042
[18] G.Carlier和C.Poon，关于总变Wasserstein梯度流和TV-JKO方案，ESAIM控制优化。计算变量，以显示·Zbl 1509.35011号
[19] V.Caselles、A.Chambolle和M.Novaga，电视去噪问题解的间断集及其推广，多尺度模型。模拟。，6（2007），第879–894页·Zbl 1145.49024号
[20] E.Cazelles、J.Bigot和N.Papadakis，Wasserstein空间中的正则重心《信息几何科学》，F.Nielsen和F.Barbaresco主编，Springer International，Cham，2017年，第83-90页·Zbl 1425.62074号
[21] T.M.Chan，二维和三维最优输出敏感凸壳算法，离散计算。地理。，16（1996），第361-368页·Zbl 0857.68111号
[22] S.Claici、E.Chien和J.Solomon，随机Wasserstein重心，2018年ICML’18。
[23] M.B.Cohen、A.Madry、D.Tsipras和A.Vladu，基于盒约束牛顿法和内点法的矩阵缩放和平衡，《IEEE第58届计算机科学基础年会论文集》，IEEE，2017年，第902-913页。
[24] R.Cominetti和J.San Martiín，线性规划中指数惩罚轨迹的渐近分析，数学。编程，67（1994），第169-187页·Zbl 0833.90081号
[25] N.Courty、R.Flamary、D.Tuia和A.Rakotomamonjy，域自适应的最佳传输，IEEE传输。模式分析。机器。智力。，39（2017），第1853-1865页。
[26] M.Cuturi，凹坑距离：最佳运输的光速计算，摘自《神经信息处理系统进展》，2013年第26期，第2292–2300页。
[27] M.Cuturi和A.Doucet，Wasserstein重心的快速计算，《第31届国际机器学习会议论文集》（ICML-14），2014年，第685-693页。
[28] M.Cuturi和G.Peyreí，变分Wasserstein问题的光滑对偶方法，SIAM J.成像科学。，9（2016），第320–343页·兹比尔1335.49076
[29] F.De Goes、K.Breeden、V.Ostromukhov和M.Desbrun，蓝色噪音通过最佳运输，ACM变速器。图形，31（2012），第171条。
[30] J.Franklin和J.Lorenz，关于多维矩阵的标度，线性代数应用。，114（1989），第717-735页·Zbl 0674.15001号
[31] A.Genevay、M.Cuturi、G.Peyreí和F.Bach，大规模最优运输的随机优化《神经信息处理系统进展》，2016年，第3440–3448页。
[32] U.Gianazza、G.Savare∏和G.Toscani，Fisher信息的Wasserstein梯度流和量子漂移扩散方程，建筑。理性力学。分析。，194（2009），第133-220页·兹比尔1223.35264
[33] R.Jordan、D.Kinderlehrer和F.Otto，福克-普朗克方程的变分形式，SIAM J.数学。分析。，29（1998），第1-17页·Zbl 0915.35120号
[34] P.A.Knight和D.Ruiz，矩阵平衡的快速算法IMA J.数字。分析。，33（2013），第1029–1047页·Zbl 1276.65025号
[35] D.D.Lee和H.S.Seung，用非负矩阵分解学习对象的组成部分《自然》，401（1999），第788–791页·Zbl 1369.68285号
[36] J.Lellmann、D.A.Lorenz、C.Schoönlieb和T.Valkonen，Kantorovich-Rubinstein差异成像，SIAM J.成像科学。，7（2014），第2833–2859页·Zbl 1308.49043号
[37] C.勒奥纳尔，薛定谔问题及其与最优运输的一些联系的综述，离散连续。动态。系统。，34（2014），第1533–1574页·Zbl 1277.49052号
[38] B.勒维，中（l^2）半离散最优运输的数值算法三D类，ESAIM数学。模型。数字。分析。，49（2015），第1693-1715页·兹比尔1331.49037
[39] B.Leívy和E.Schwindt，最优运输理论的概念及其在计算机上的实现，计算和图形，72（2018），第135–148页。
[40] J.Maas、M.Rumpf、C.Schoénlieb和S.Simon，包含耗散和密度调制的图像最优传输的广义模型，ESAIM数学。模型。数字。分析。，49（2015），第1745-1769页·Zbl 1348.94009号
[41] Q.Meírigot，最优运输的多尺度方法，计算。图表。论坛，30（2011），第1583-1592页·Zbl 1431.76040号
[42] S.Minsker、S.Srivastava、L.Lin和D.B.Dunson，基于子集后验中位数的稳健可扩展贝叶斯，J.马赫。学习。第18号决议（2017年），第1-40页·Zbl 1442.62056号
[43] F.尼尔森，Jeffreys质心：正直方图的封闭表达式和频率直方图保证的紧近似IEEE信号处理。莱特。，20（2013年），第657-660页。
[44] V.Oliker和L.D.Prussner，方程的数值解及其离散化，I，数字。数学。，54（1989），第271-293页·Zbl 0659.65116号
[45] F.奥托，耗散演化方程的几何：多孔介质方程《Comm.偏微分方程》，26（2001），第101–174页·Zbl 0984.35089号
[46] O.贝利和M.沃曼，快速可靠的推土机距离2009年9月ICCV发布。
[47] G.佩尔，Wasserstein梯度流的熵近似，SIAM J.成像科学。，8（2015），第2323–2351页·Zbl 1335.90068号
[48] G.Peyreí和M.Cuturi，计算最优运输，预印本，2018年。
[49] J.Rabin和N.Papadakis，具有最佳传输距离的凸彩色图像分割，在程序中。2015年SSVM·Zbl 1376.94007号
[50] Y.Rubner、C.Tomasi和L.Guibas，推土机距离作为图像检索的度量，国际。《计算机视觉杂志》，40（2000），第99-121页·Zbl 1012.68705号
[51] F.Santambrogio，应用数学家的最佳传输，Birkha¨user，2015年·Zbl 1401.49002号
[52] B.施密策，熵正则运输问题的稳定稀疏尺度算法，预印本，2016年。
[53] B.Schmitzer和C.Schnorr，利用Wasserstein模式进行形状匹配的物体分割，在程序中。EMMCVPR’13，计算机课堂讲稿。科学。8081，柏林施普林格，海德堡，2013年，第123–136页。
[54] R.Sinkhorn，任意正矩阵与双随机矩阵的关系，安。数学。统计人员。，35（1964年），第876-879页·Zbl 0134.25302号
[55] J.Solomon、F.de Goes、G.Peyreí、M.Cuturi、A.Butscher、A.Nguyen、T.Du和L.Guibas，卷积Wasserstein距离：几何域上的有效最优传输，ACM变速器。图形（Proc.SIGGRAPH 2015），34（2015），第66条·Zbl 1334.68267号
[56] J.Solomon、R.Rustamov、L.Guibas和A.Butscher，用于半监督学习的Wasserstein传播，在程序中。ICML 2014年、2014年。
[57] M.Sugiyama、H.Nakahara和K.Tsuda，统计流形上的张量平衡，《国际资本市场协会会议记录》，2017年，第3270–3279页。
[58] P.Swoboda和C.Schno¨rr，基于直方图先验的凸变分图像复原，SIAM J.成像科学。，6（2013），第1719–1735页·Zbl 1281.65041号
[59] C.维拉尼，最佳交通：新旧、格兰德伦数学。威斯。338，Springer-Verlag，2009年·Zbl 1156.53003号
[60] G.-S.Xia、S.Ferradans、G.Peyreí和J.-F.Aujol，合成和混合平稳高斯纹理模型，SIAM J.成像科学。，7（2014），第476–508页·Zbl 1391.94108号
[61] G.Zen、E.Ricci和N.Sebe，基于推土机距离的地面度量学习和矩阵分解，在程序中。2014年ICPR。
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。