高级搜索

几何力学杂志

2023,第15卷, 第1版: 224-255. 数字对象标识：10.3934/jgm.2023010
上一篇文章 下一篇文章
研究文章

用于加速优化的时间自适应拉格朗日变分积分器

  • 美国加州大学圣地亚哥分校数学系，邮编：92093
  • 收到：2022年6月2日 修订过的：2022年10月5日 认可的：2022年10月6日 出版：2023年2月15日

  • 37M15、37N40、34A26、65K10、70H15

  • 最近在赋范向量空间和黎曼流形上引入了一个用于加速优化的变分框架[1]和[2]观察到，在数值积分中，时间自适应性和辛性的仔细结合可以显著提高计算效率。然而众所周知，当使用可变时间步长时，辛积分器会失去其近能量保持特性。规避这个问题的最常见方法是在哈密顿量方面进行庞加莱变换，并用于[三]构造有效的辛加速优化显式算法。然而，目前哈密顿变分积分器的公式在更一般的空间（如黎曼流形和李群）上没有内在意义。相比之下，拉格朗日变分积分器在流形上定义良好，因此我们在这里开发了一个拉格朗氏变分积分器的时间适应性框架，并使用由此产生的几何积分器来解决向量空间和李群上的优化问题。

    引用：瓦伦汀·杜鲁西索（Valentin Duruisseaux）、梅尔文·莱克（Melvin Leok）。加速优化的时间自适应拉格朗日变分积分器[J]。几何力学杂志，2023，15（1）：224-255。doi:10.3934/jgm.2023010

    相关论文：

  • 最近在赋范向量空间和黎曼流形上引入了一个用于加速优化的变分框架[1]和[2]观察到，在数值积分中，时间自适应性和辛性的仔细结合可以显著提高计算效率。然而，众所周知，当使用可变时间步长时，辛积分器会失去其接近能量保持的特性。规避这个问题的最常见方法是在哈密顿量方面进行庞加莱变换，并用于[三]构造有效的辛加速优化显式算法。然而，目前哈密顿变分积分器的公式在更一般的空间（如黎曼流形和李群）上没有内在意义。相比之下，拉格朗日变分积分器在流形上定义良好，因此我们在这里开发了一个拉格朗氏变分积分器的时间适应性框架，并使用由此产生的几何积分器来解决向量空间和李群上的优化问题。


    加载中


    [1] A.Wibisono，A.Wilson，M.Jordan，优化中加速方法的变分观点，程序。国家。阿卡德。科学。,113（2016年），E7351–E7358。https://doi.org/10.1073/pnas.1614734113数字对象标识：10.1073/pnas.1614734113
    [2] V.Duruisseaux，M.Leok，黎曼流形上加速优化的变分形式，SIAM J.数学。数据科学。,4(2022), 649–674. https://doi.org/10.1137/21M1395648数字对象标识：10.1137/21M1395648
    [3] V.Duruisseaux，J.Schmitt，M.Leok，自适应哈密顿变分积分器及其在辛加速优化中的应用，SIAM J.科学。计算。,43（2021年），A2949–A2980。https://doi.org/10.1137/20M1383835数字对象标识：10.1137/20M1383835
    [4] Y.Nesterov，一个求解收敛速度为$\mathcal{O}（1/k^2）$的凸规划问题的方法。苏联。数学。多克。,27(1983), 372–376.
    [5] Y.内斯特罗夫，凸优化入门讲座：基础课程，第87卷，共页应用的优化，Kluwer学术出版社，马萨诸塞州波士顿，2004年。
    [6] W.Su，S.Boyd，E.Candes，Nesterov加速梯度法建模的微分方程：理论和见解。J.马赫。学习。物件。,17(2016), 1–43.
    [7] M.Betancourt，M.I.Jordan，A.Wilson，《辛优化》。2018https://doi.org/10.48550/arXiv.1802.03653
    [8] C.M.Campos，A.Mahillo，D.Martín de Diego，优化中加速方法的离散变分推导。2021https://doi.org/10.48550/arXiv.2106.02700
    [9] G.França，M.I.Jordan，R.Vidal，《耗散辛积分与梯度优化应用》。《统计力学杂志》。,2021(2021), 043402. https://doi.org/10.1088/1742-5468/abf5d4数字对象标识：10.1088/1742-5468/abf5d4
    [10] G.França，a.Barp，M.Girolma，M.I.Jordan，流形优化：辛方法，07 2021。https://doi.org/10.48550/arXiv.2107.11231
    [11] M.I.Jordan，梯度优化的动力学、辛和随机观点，In国际数学家大会论文集（ICM 2018）, 523–549.https://doi.org/10.1142/9789813272880_0022
    [12] E.Hairer、C.Lubich、G.Wanner、，几何-数值积分，第31卷，共页计算数学中的Springer级数，施普林格出版社，柏林，第二版，2006年。
    [13] J.P.Calvo，J.M.Sanz-Serna，变步长辛积分器的发展及其在两体问题中的应用，SIAM J.科学。公司。,14(1993), 936–952. https://doi.org/10.1137/0914057数字对象标识：10.1137/0914057
    [14] B.Gladman，M.Duncan，J.Candy，天体力学中长期积分的辛积分器。天体力学。动态。阿斯特。,52(1991), 221–240. https://doi.org/10.1007/BF00048485数字对象标识：10.1007/BF00048485
    [15] E.Hairer，用辛方法进行可变时间步长积分，申请。数字。数学。,25(1997), 219–227. https://doi.org/10.1016/S0168-9274（97）00061-5数字对象标识代码：10.1016/S0168-9274（97）00061-5
    [16] K.Zare，V.G.Szebehely，《扩展相空间中的时间变换》。天体力学。,11(1975), 469–482. https://doi.org/10.1007/BF01650285数字对象标识：2007年10月10日/BF01650285
    [17] J.Hall，M.Leok，谱变分积分器，数字。数学。,130(2015), 681–740. https://doi.org/10.1007/s00211-014-0679-0数字对象标识：2007年10月10日/00211-014-0679-0
    [18] J.E.Marsden，M.West，《离散力学与变分积分器》。Acta Numer公司。,10(2001), 357–514. https://doi.org/10.1017/S096249290100006X数字对象标识：10.1017/S096249290100006倍
    [19] T.Lee，M.Tao，M.Leok，李群上的变分辛加速优化。2021
    [20] M.Tao，T.Ohsawa，李群上的变分优化，以及领先（广义）特征值问题的示例。在第23届AISTATS国际会议记录，第108卷，共PMLR公司, 2020.
    [21] F.Alimisis，A.Orvieto，G.Bécigneul，A.Lucchi，黎曼优化中加速建模的连续时间视角。在第23届AISTATS国际会议记录，第108卷，共PMLR公司, 1297–1307, 2020.
    [22] V.Duruisseaux，M.Leok，通过离散约束变分积分器对黎曼流形进行加速优化。非线性科学杂志。,32(2022). https://doi.org/10.1007/s00332-022-09795-9数字对象标识：2007年10月7日/00332-022-09795-9
    [23] V.Duruisseaux，M.Leok，通过投影变分积分器对黎曼流形进行加速优化。2022https://doi.org/10.48550/arXiv.2201.02904
    [24] J.Nash，黎曼流形的嵌入问题，安。数学。,63(1956), 20–63. https://doi.org/10.2307/1969989数字对象标识：10.2307/1969989
    [25] H.Whitney，在$2n$-空间中平滑$n$-流形的自我交叉，安。数学。,45(1944), 220–246. https://doi.org/10.2307/1969265数字对象标识：10.2307/1969265
    [26] H.Whitney，$（2n-1）$-空间中光滑$n$-流形的奇点，安。数学。,45(1944), 247–293. https://doi.org/10.2307/1969266数字对象标识：10.2307/1969266
    [27] N.Bou-Rabee，J.E.Marsden，Hamilton–Pontryagin李群上的积分器-第一部分：引言和结构保持性，已找到。计算。数学。,9(2009), 197–219. https://doi.org/10.1007/s10208-008-9030-4数字对象标识：2007年10月10日/10208-008-9030-4
    [28] I.I.Hussein，M.Leok，A.K.Sanyal，A.M.Bloch，SO（3）上最优控制问题的离散变分积分器。第45届IEEE决策与控制会议记录, 6636–6641, 2006. https://doi.org/10.109/CDC.2006.377818数字对象标识：10.1109/CDC.2006.377818
    [29] T.Lee，计算几何力学和刚体控制。密歇根大学博士论文, 2008.
    [30] T.Lee，M.Leok，N.H.McClamroch，全身问题的李群变分积分器，计算。方法应用。机械。工程。,196(2007), 2907–2924. https://doi.org/10.1016/j.cma.2007.01.017数字对象标识：2016年10月10日/j.cma.2007.017
    [31] T.Lee，M.Leok，N.H.McClamroch，轨道力学中全身问题的李群变分积分器，天体机械。动态。阿斯特。,98(2007), 121–144. https://doi.org/10.1007/s10569-007-9073-x数字对象标识：10.1007/s10569-007-9073-x
    [32] T.Lee，N.H.McClamroch，M.Leok，刚体姿态动力学的李群变分积分器及其在三维摆中的应用，2005年IEEE控制应用会议论文集。（CCA 2005）, 962–967. https://doi.org/10.109/CCA.2005.1507254数字对象标识：10.1109/CAC.2005.1507254
    [33] M.Leok，广义Galerkin变分积分器：李群、多尺度和伪谱方法，（预印本，arXiv:数学。NA/0508360), 2004.
    [34] N.Nordkvist，A.K.Sanyal，SE（3）中刚体运动的李群变分积分器及其在水下航行器动力学中的应用，in第四十九届IEEE决策与控制会议（CDC）, 5414–5419, 2010.https://doi.org/10.109/CDC.2010.5717622
    [35] T.Lee，M.Leok，N.H.McClamroch，拉格朗日力学和双球变分积分器，国际期刊数字。方法工程。,79(2009), 1147–1174. https://doi.org/10.1002/nme.2603数字对象标识：10.1002/nme.2603
    [36] J.E.Marsden、T.S.Ratiu、，力学和对称导论，第17卷，共页应用数学课文Springer-Verlag，纽约，第二版，1999年。
    [37] S.Lall，M.West，离散变分哈密顿力学，《物理学杂志》。A类,39(2006), 5509–5519. https://doi.org/10.1088/0305-4470/39/19/S11数字对象标识：10.1088/0305-4470/39/19/S11
    [38] M.Leok，J.Zhang，离散哈密顿变分积分器，IMA J.数字。分析。,31(2011), 1497–1532. https://doi.org/10.1093/imanum/drq027数字对象标识：10.1093/imanum/drq027
    [39] J.M.Schmitt，M.Leok，哈密顿变分积分器的性质，IMA J.数字。分析。,38(2017), 377–398. https://doi.org/10.1093/imanum/drx010数字对象标识：10.1093/imanum/drx010
    [40] M.Leok，T.Shingel，延长分配变分积分器，IMA J.数字。分析。,32(2012), 1194–1216. https://doi.org/10.1093/imanum/drr042数字对象标识：10.1093/imanum/drr042
    [41] J.M.Schmitt、T.Shingel、M.Leok、Lagrangian和Hamiltonian Taylor变分积分器，位数字。数学。,58(2018), 457–488. https://doi.org/10.1007/s10543-017-0690-9数字对象标识：2007年10月10日/10543-017-0690-9
    [42] M.Leok，T.Ohsawa，离散狄拉克力学的变分和几何结构，已找到。计算。数学。,11(2011), 529–562. https://doi.org/10.1007/s10208-011-9096-2数字对象标识：2007年10月10日/10208-011-9096-2
    [43] H.Yoshimura，J.E.Marsden，拉格朗日力学中的Dirac结构第一部分：隐式拉格朗夫系统，《几何杂志》。物理学。,57(2006), 133–156. https://doi.org/10.1016/j.geomphys.2006.02.009数字对象标识：10.1016/j.geomphys.2006.02.009
    [44] H.Yoshimura，J.E.Marsden，拉格朗日力学中的Dirac结构第二部分：变分结构，《几何杂志》。物理学。, 57 (2006), 209–250. https://doi.org/10.1016/j.geomphys.2006.02.012数字对象标识：2016年10月10日/j.geomphys.2006.02.012
    [45] D.Kingma，J.Ba，Adam：随机优化的一种方法，学习代表国际会议, 12 2014.https://doi.org/10.48550/arXiv.1412.6980
    [46] J.Duchi，E.Hazan，Y.Singer，在线学习和随机优化的自适应次梯度方法，J.马赫。学习。物件。, 12 (2011), 2121–2159.
    [47] T.Tieleman，G.Hinton，《Coursera:机器学习的神经网络——第6.5讲：RMSprop》，2012年。
    [48] P.A.Absil、R.Mahony、R.Sepulchre、，矩阵流形上的优化算法，普林斯顿大学出版社，新泽西州普林斯顿，2008年。https://doi.org/10.1515/9781400830244
    [49] N.Boumal，《光滑流形优化导论》，2020年。
    [50] J.M.Lee，黎曼流形简介，第176卷，共176卷数学研究生课程《查姆施普林格》，第二版，2018年。
    [51] J.Jost，黎曼几何与几何分析，Universitext。查姆施普林格，2017年第7版。
    [52] T.Lee、M.Leok、N.H.McClamroch、，流形上拉格朗日和哈密顿动力学的整体形式：建模和分析的几何方法力学与数学的相互作用。施普林格国际出版公司，2017年。
    [53] J.Gallier、J.Quaintance、，微分几何与李群：一个计算的观点《几何与计算》。施普林格国际出版公司，2020年。
    [54] E.Celledoni、H.Marthinsen、B.Owren，李群积分器简介——基础、新发展和应用，J.计算。物理学。,257(2014), 1040–1061. https://doi.org/10.1016/j.jcp.2012.12.031数字对象标识：2016年10月10日/j.jcp.2012.12.031
    [55] E.Celledoni、E.Cho okaj、A.Leone、D.Murari、B.Owren，机械系统李群积分器，国际期刊计算。数学。,99(2022), 58–88. https://doi.org/10.1080/00207160.2021.1966772数字对象标识：10.1080/00207160.2021.1966772
    [56] S.H.Christiansen，H.Z.Munthe-Kaas，B.Owren，结构-保护离散化主题，Acta Numer公司。,20(2011), 1–119. https://doi.org/10.1017/S096249291100002X数字对象标识：10.1017/S096249291100002X号
    [57] A.Iserles，H.Z.Munthe-Kaas，S.P.Nörsett，A.Zanna，李群方法，Acta Numer公司。,9(2000), 215–365. https://doi.org/10.1017/S0962492900002154
    [58] P.E.Crouch，R.L.Grossman，流形上常微分方程的数值积分，非线性科学杂志。,三(1993), 1–33. https://doi.org/10.1007/BF02429858数字对象标识：2007年10月10日/BF02429858
    [59] D.Lewis，J.C.Simo，李群上哈密顿系统动力学的守恒算法，非线性科学杂志。,4(1994), 253–299. https://doi.org/10.1007/BF02430634数字对象标识：2007年10月10日/BF02430634
    [60] F.Casas，B.Owren，RKMK类中的低成本李群积分器，比特币,43(2003), 723–742. https://doi.org/10.1023/B:BITN.0000009959.929287.d4网址数字对象标识：10.1023/B：BITN.00009959.29287.d4
    [61] H.Z.Munthe-Kaas，Runge-Kutta方法的Lie-Butcher理论，比特币,35(1995), 572–587. https://doi.org/10.1007/BF01739828数字对象标识：2007年10月10日/BF01739828
    [62] H.Z.Muthe-Kaas、李群上的Runge-Kutta方法，位数字。数学。,38(1998), 92–111. https://doi.org/10.1007/BF02510919数字对象标识：2007年10月10日/BF02510919
    [63] H.Z.Munthe-Kaas，流形上的高阶Runge-Kutta方法，申请。数字。数学。,29(1999), 115–127. https://doi.org/10.1016/S0168-9274（98）00030-0数字对象标识代码：10.1016/S0168-9274（98）00030-0
    [64] S.Blanes、F.Casas、J.A.Oteo、J.Ros，《马格纳斯扩张及其一些应用》，物理学。代表。,470(2008), 151–238. https://doi.org/10.1016/j.physrep.2008.11.001数字对象标识：2016年10月10日/j.physrep.2008.11.001
    [65] A.Iserles，S.P.Nörsett，关于李群中线性微分方程的解，菲尔翻译。R.Soc.A公司,357(1999), 983–1019. https://doi.org/10.1098/rsta.1999.0362数字对象标识：10.1098/rsta.1999.0362
    [66] A.Zanna，Fer和Magnus扩展的搭配和轻松搭配，SIAM J.数字。分析。,36(1999), 1145–1182. https://doi.org/10.1137/S0036142997326616数字对象标识：10.1137/0036142997326616
    [67] E.Celledoni，A.Marthinsen，B.Owren，无交换李群方法，未来一代。计算。系统。,19(2003), 341–352. https://doi.org/10.1016/S0167-739X（02）00161-9文件标识代码：10.1016/S0167-739X（02）00161-9
    [68] G.Wahba，卫星姿态的最小二乘估计，SIAM版本。,7(1965), 409. https://doi.org/10.1137/1007077数字对象标识：10.1137/1007077
    [69] V.Duruisseaux，M.Leok，辛加速优化的实用观点，2022年。https://doi.org/10.48550/arXiv.2207.11460
  • jgm-15-01-010-s001.pdf
  • 读者评论
  • ©2023作者，持牌人AIMS出版社。这是一篇发布的开放访问文章根据知识共享署名许可证的条款(http://creativecommons.org/licenses/by/4.0)
通讯作者:陈斌, bchen63@163.com
  • 1. 

    沈阳化工大学材料科学与工程学院 沈阳 110142

  1. 本站搜索
  2. 百度学术搜索
  3. 万方数据库搜索
  4. 中国知网
几何力学杂志
0.737 1.4

韵律学

文章观点(961) PDF下载(39) 引用人(0)

预览PDF
下载XML
出口引文
文章大纲

图和表

数字(4)

其他作者文章

相关页面

工具

/

返回
返回

目录