×
库内尔，Line;斯特凡·索默;亚历克西斯·阿尔诺登

微分几何和随机动力学与深度学习数字。 （英语） Zbl 1428.58026号

申请。数学。计算。 356, 411-437 (2019).
摘要：随着深度学习方法的出现，开发了新的计算框架，将符号表达式与高效的数值计算相结合。在这项工作中，我们将演示如何在这些现代框架中实现流形上的确定性和随机动力学以及微分几何构造。特别是，我们使用了python库的符号表达式和自动区分功能西雅娜最初是为深度学习中的高性能计算而开发的。我们展示了微分几何和李群论、连接、度量、曲率、左/右不变性、测地线和平行输运的各个方面如何用西雅娜使用任意阶导数的自动计算。我们还将展示符号随机积分器和非线性统计中的概念如何只用几行代码就可以公式化和优化。然后，我们将给出低维经典流形的显式示例以进行可视化，并演示此方法如何实现简洁的实现和高效地缩放到高维问题。通过本文及其附带的代码，我们希望刺激现代符号和数值计算框架在数学实验应用、应用数学计算、，以及通过显示结果代码如何在实现许多实验数学努力中实现灵活性和简单性来进行数据分析。

引用于6文件

MSC公司：

58J65型 流形上的扩散过程与随机分析
60-04 概率论相关问题的软件、源代码等
60J60型 扩散过程
62H11型 定向数据；空间统计学

关键词：

深入学习数学;西亚诺;自动微分;微分几何;非线性统计

软件：

皮曼诺普;朱莉娅;地理统计局;TensorFlow公司;西雅娜
PDF格式BibTeX公司 XML格式引用
\textit{L.Kühnel}等人，应用。数学。计算。356411--437（2019年；Zbl 1428.58026）
全文： 内政部 arXiv公司 链接

参考文献：

[1] Lee，J.M.，光滑流形导论，数学研究生教材，218（2003），Springer-Verlag:Springer-Verlag纽约
[2] Theano开发团队，Theano:一个用于快速计算数学表达式的python框架，arXiv e-prints（2016）
[3] Abadi，M.，Tensorflow:大型机器学习系统，第十二届USENIX操作系统设计与实现研讨会论文集（OSDI 16），265-283（2016）
[4] Bezanson，J。；Edelman，A。；卡平斯基，S。；Shah，V.，Julia:数值计算的新方法，SIAM Rev.，59，1，65-98（2017）·Zbl 1356.68030号
[5] 汤森，J。；北卡罗来纳州科普。；Weichwald，S.，Pymanopt:一个使用自动微分优化流形的python工具箱，J.Mach。学习。决议，17，137，1-5（2016）·Zbl 1416.65580号
[6] M.Meghwanshi、P.Jawanpuria、A.Kunchukuttan、H.Kasai、B.Mishra、McTorch，深度学习的流形优化库（2018）。；M.Meghwanshi、P.Jawanpuria、A.Kunchukuttan、H.Kasai、B.Mishra、McTorch，深度学习的流形优化库（2018）。
[7] Miolane，N。；马瑟，J。；唐纳特，C。；Jorda，M。；Pennec，X.，Geomstats:机器学习中黎曼几何的python包，[cs，stat]（2018）
[8] Bronstein，M.M。；布鲁纳，J。；LeCun，Y。；Szlam，A。；Vandergheynst，P.，《几何深度学习：超越欧几里德数据》，IEEE信号处理。Mag.，34，4，18-42（2017）
[9] 布洛赫，A。；Baillieul，J。；克劳奇，P。；Marsden，J.E。；Zenkov，D。；克里希纳普拉萨德，P.S。；Murray，R.M.，非完整力学与控制，24（2003），Springer·Zbl 1045.70001号
[10] Chirikjian，G.，《随机模型、信息论和李群》，第1卷：经典结果和几何方法，应用。数字。哈蒙。分析。(2009) ·Zbl 1182.60001号
[11] Chirikjian，G.S.，《随机模型、信息论和李群》，第2卷：分析方法和现代应用，第2期（2011年），施普林格科学与商业媒体
[12] Lee，J.M.，《黎曼流形：曲率导论》，176（2006），Springer Science&Business Media
[13] Hsu，E.P.，流形上的随机分析（2002），Ame。数学。Soc公司·Zbl 0994.58019号
[14] Marsden，J.E。；Ratiu，T.S.，力学和对称导论。力学和对称导论，应用数学课文，17（1999），纽约斯普林格出版社：纽约斯普林格出版社·Zbl 0933.70003号
[15] Younes，L.，《形状和微分》（2010），Springer·Zbl 1205.68355号
[16] L.Kühnel，S.Sommer，《Theano的计算解剖学》，施普林格国际出版公司，第164-176页。；L.Kühnel，S.Sommer，《Theano的计算解剖学》，施普林格国际出版公司，第164-176页。
[17] Liao，M.，《李群中的Lévy过程》（2004），剑桥大学出版社：剑桥大学出版社；纽约·邮编1076.60004
[18] 阿诺登，A。；卡斯特罗，A.L。；Holm，D.D.，共伴轨道上的噪声和耗散，[math-ph，物理学：nlin]（2016）
[19] Holm，D.D.，《随机流体动力学的变分原理》，Proc。数学。物理学。工程科学。R.Soc.，4712176（2015）·Zbl 1371.35219号
[20] 克鲁塞罗，A.B。；霍尔姆，D.D。；Ratiu，T.S.，动量图和随机clebsch作用原理，Commun。数学。物理。，357, 2, 873-912 (2018) ·Zbl 1433.60069号
[21] Arnaudon，M。；陈，X。；Cruzeiro，A.B.，《随机Euler-Poincar缩减》，《数学杂志》。物理。，2008年8月55日，邮编：507（2014）·Zbl 1307.37027号
[22] Mok，K.-P.，关于黎曼流形框架丛的微分几何，J.Die Reine Angew。数学。，1978, 302, 16-31 (1978) ·Zbl 0378.53016号
[23] 斯特里哈特，R.S.，Sub-Riemannian几何学，J.Diff.Geom。，24222-263（1986年）·Zbl 0609.53021号
[24] Sommer，S.，流形上的各向异性分布：模板估计和最可能路径，医学成像中的信息处理。医学成像中的信息处理，计算机科学讲稿，9123193-204（2015），施普林格
[25] 科拉，I。；J·斯洛文尼亚。；Michor，P.W.，《微分几何中的自然操作》（1993），斯普林格-柏林-海德堡：斯普林格–柏林-海德堡-柏林，海德堡·兹伯利0782.53013
[26] Elworthy，D.，流形上扩散的几何方面，（Hennequin，P.-L.，Es cole D’Etéde Probabilités de Saint-Flour XV-XVII，1985-87）。《圣徒概率论》第十六卷第二十七期，1985-1987年，数学课堂讲稿（1988年），施普林格-柏林-海德堡出版社，277-425·Zbl 0658.58040号
[27] Sommer，S。；Svane，A.M.，《使用随机发展和亚黎曼框架束几何建模各向异性协方差》，J.Geom。机械。，9, 3, 391-410 (2017) ·Zbl 1367.53031号
[28] Fujita，T。；Kotani，S.-i.，扩散过程的Onsager-Machlup函数，J.Math。京都大学，22，1，115-130（1982）·Zbl 0501.60082号
[29] 贝格，M.F。；米勒，M.I。；特鲁韦，A。；Younes，L.，《通过微分同态的测地流计算大变形度量映射》，《国际计算杂志》。视觉。，61, 2, 139-157 (2005) ·Zbl 1477.68459号
[30] 阿诺登，A。；霍尔姆，D.D。；Pai，A。；Sommer，S.，《计算解剖学的随机大变形模型，医学成像中的信息处理》。医学成像中的信息处理，计算机科学课堂讲稿，571-582（2017），施普林格
[31] 阿诺登，A。；霍尔姆，D.D。；Pai，A。；Sommer，S.，《计算解剖学的随机大变形模型》（Niethammer，M.；Styner，M.，Aylward，S.；Zhu，H.；Oguz，I.；Yap，P.-T.；Shen，D.，《医学成像中的信息处理》，《计算机科学讲义》（2017），Springer International Publishing，571-582
[32] 马斯兰，S。；Shardlow，T.，具有不确定性地标图像配准的Langevin方程，SIAM J.成像科学。，10, 2, 782-807 (2017) ·Zbl 1400.92304号
[33] 霍尔姆，D.D。；蒂拉诺夫斯基，T.M.，随机孤子动力学的变分原理，Proc。R.Soc.A，47220150827（2016）·Zbl 1371.70041号
[34] Pennec，X.，《黎曼流形上的内禀共济失调：几何测量的基本工具》，数学杂志。成像视觉。，25, 1, 127-154 (2006) ·Zbl 1478.94072号
[35] Frechet，M.，Leséléments aléatoires de nature quelconque dans un espace distancie，Ann.Inst.H.Poincaré，10，215-310（1948）·Zbl 0035.20802号
[36] Sommer，S.，流形上各向异性加权和非完整约束演化，熵，18，12，425（2016）
[37] Schaffter，T.，《SDE的数值积分：简短教程》，《技术报告》（2010年）
[38] 伯纳迪，C。；Maday，Y。；布洛伊，J.F。；科尔曼，J.P。；Craig，A.W.，《微分方程理论与数值》：达勒姆2000年。微分方程理论与数值：Durham 2000，Universitext（2001），Springer-Verlag-Berlin-Heidelberg
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。