×

高阶反向自动微分,强调三阶。 (英语) Zbl 1332.65034号

摘要:通常认为计算三阶信息对于大多数应用程序来说过于昂贵。但我们表明,Hessian矩阵的方向导数(D^3f(x)/cdot D)的计算成本与计算Hessian阵的最新方法成正比。为此,我们首先介绍了一个设计高阶逆方法的简单过程,并将其应用于推导包括计算(D^3f(x)\cdot D)的逆方法在内的几种方法。我们在考虑对称性和稀疏性的情况下实现了这种方法,并成功地计算了具有一百万个变量的函数的导数。这些结果表明,在通用非线性求解器中使用三阶信息,如哈雷-切比雪夫方法,可能是牛顿方法的一种实用替代方法。此外,在鲁棒气动设计方法中使用了高阶灵敏度信息。高效的高阶微分工具可以促进在其他机械结构的设计中使用类似的方法。

MSC公司:

65D25个 数值微分
15A69号 多线性代数,张量演算
65层50 稀疏矩阵的计算方法
2012年第49季度 流形上优化问题的灵敏度分析
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] Griewank,A.,Walterher,A.:评估衍生品,第二版。费城工业和应用数学学会(SIAM)(2008)·Zbl 1159.65026号 ·doi:10.1137/1.9780898717761
[2] Gebremedhin,A.H.,Manne,F.,Pothen,A.:你的Jacobian是什么颜色的?用于计算导数的图形着色。SIAM版本47(4),629-705(2005)·Zbl 1076.05034号 ·doi:10.1137/S0036144504444711
[3] Griewank,A.,Naumann,U.:将雅可比矩阵累积为链式稀疏矩阵乘积。数学。程序。95(3), 555-571 (2003) ·Zbl 1023.90053号 ·doi:10.1007/s10107-002-0329-7
[4] Gower,R.M.,Mello,M.P.:黑森人计算的新框架。最佳方案。方法软件。27(2), 251-273 (2012) ·Zbl 1311.65084号 ·doi:10.1080/10556788.2011.580098
[5] Gebremedhin,A.H.,Tarafdar,A.,Pothen,A.,Walther,A.:使用着色和自动微分有效计算稀疏黑森函数。信息J.计算。21(2), 209-223 (2009) ·Zbl 1243.65071号 ·doi:10.1287/ijoc.1080.0286
[6] Gutiérrez,J.M.,Hernández,M.A.:Banach空间中Chebyshev-Halley型方法的一个族。牛市。澳大利亚。数学。Soc.55(01),113-130(1997)·Zbl 0893.47043号 ·doi:10.1017/S0004972700030586
[7] Amat,S.,Busquier,S.:Kantorovich条件下的三阶迭代方法。数学杂志。分析。申请。336(1), 243-261 (2007) ·Zbl 1128.65036号 ·doi:10.1016/j.jmaa.2007.02.052
[8] Wang,X.,Kou,J.:改进Chebyshev-Halley方法的半局部收敛和R阶。J.数字。算法64(1),105-126(2013)·Zbl 1279.65065号
[9] Ezquerro,J.A.,Hern,M.A.:哈雷方法的新Kantorovich型条件。申请。数字。分析。计算。数学。77(1), 70-77 (2005) ·Zbl 1076.65052号 ·doi:10.1002/anac.200410024
[10] Xu,X.,Ling,Y.:Halley方法在弱Lipschitz条件下的半局部收敛性。申请。数学。计算。215(8), 3057-3067 (2009) ·Zbl 1187.65059号 ·doi:10.1016/j.amc.2009.09.055
[11] Susanto,H.,Karjanto,N.:牛顿方法重新审视吸引力盆地。申请。数学。计算。215(3), 1084-1090 (2009) ·Zbl 1175.65055号 ·doi:10.1016/j.amc.2009.06.041
[12] Yau,L.,Ben-Israel,A.:复根的牛顿和哈雷方法。美国数学。周一。105(9), 806-818 (1998) ·Zbl 1002.65059号 ·doi:10.2307/2589209
[13] Gundersen,G.,Steihaug,T.:无约束优化的高阶方法中的稀疏性。最佳方案。方法软件。27(2), 275-294 (2012) ·Zbl 1244.90220号 ·网址:10.1080/10556788.2011.597853
[14] Gundersen,G.,Steihaug,T.:关于无约束优化中的对角结构问题,使用不精确的超级Halley方法。J.计算。申请。数学。236(15), 3685-3695 (2012) ·Zbl 1256.65055号 ·doi:10.1016/j.cam.2011.07.006
[15] Gundersen,G.,Steihaug,T.:关于大规模无约束优化问题和高阶方法。最佳方案。方法软件。25(3), 337-358 (2010) ·Zbl 1202.65074号 ·doi:10.1080/10556780903239071
[16] Papadimitriou,D.I.,Giannakoglou,K.C.:基于离散伴随的三阶灵敏度分析在空气动力学中的稳健设计。准一维流动的应用。国际期刊数字。方法流体69691-709(2012)·文件编号:10.1002/fld.2604
[17] Papdimitriou,D.I.,Giannakoglou,K.C.:使用连续伴随进行稳健气动设计的三阶灵敏度分析。国际期刊数字。《液体方法》71,652-670(2013)·Zbl 1430.76335号 ·doi:10.1002/fld.3677
[18] Ozaki,I.,Kimura,F.,Berz,M.:用自动微分法进行有限元法的高阶灵敏度分析。计算。机械。16(4), 223-234 (1995) ·Zbl 0845.73071号 ·doi:10.1007/BF00369867
[19] Ederington,L.H.,Guan,W.:高级希腊人。《衍生期刊》14(3),7-34(2007)·doi:10.3905/jod.2007.681812
[20] Kariwala,V.:求解人口平衡方程的基于自动微分的矩求积法。AIChE J.58(3),842-854(2012)·doi:10.1002/aic.12613
[21] Corliss,G.F.F.,Griewank,A.,Henneberger,P.:通过自动微分和理性预测的高阶刚性常微分方程解算器。收录于:Vulkov,L.,Wa sh niewski,J.,Yalamov,P.(编辑)计算机科学讲稿,第114-125页。施普林格,柏林,海德堡(1997)·Zbl 1187.65059号
[22] Guckenheimer,J.,Meloon,B.:用自动微分计算周期轨道及其分岔。SIAM J.科学。计算。22(3), 951-985 (2000) ·Zbl 0976.65111号 ·doi:10.1137/S1064827599359278
[23] Griewank,A.、Walther,A.和Utke,J.:通过一元泰勒级数的正向传播评估高导数张量。数学。计算。69(231), 1117-1130 (2000) ·Zbl 0952.65028号 ·doi:10.1090/S0025-5718-00-01120-0
[24] Naumann,U.:区分计算机程序的艺术:算法区分简介。软件、环境和工具领域排名第24。SIAM,费城(2012)·Zbl 1275.65015号
[25] Neidinger,R.D.:数值计算任意阶偏导数的有效方法。ACM事务处理。数学。柔和。18(2), 159-173 (1992) ·Zbl 0892.65011号 ·数字对象标识代码:10.1145/146847.146924
[26] Fraenkel,L.E.:复合函数的高导数公式。数学。程序。外倾角。菲洛斯。Soc.83(02),159(1978)·兹伯利0388.46032 ·doi:10.1017/S0305004100054402
[27] Griewank,A.,Juedes,D.,Utke,J.:ADOL-C,一个用C/C++编写的算法的自动微分包。ACM事务处理。数学。柔和。22(2), 131-167 (1996) ·Zbl 0884.65015号 ·数字对象标识代码:10.1145/229473.229474
[28] Bongartz,I.,Conn,A.R.,Gould,N.,Toint,P.L.:CUTE:约束和非约束测试环境。ACM事务处理。数学。柔和。21(1), 123-160 (1995) ·Zbl 0886.65058号
[29] Hock,W.,Schittkowski,K.:非线性编程代码的测试示例。J.优化。理论应用。30(1), 127-129 (1980) ·Zbl 0393.90072号 ·doi:10.1007/BF00934594
[30] Luksan,L.,Vlcek,J.:无约束优化的测试问题。捷克共和国科学院技术报告897(2003年)·Zbl 1108.90029号
[31] Abate,J.,Bischof,C.,Roh,L.,Carle,A.:二阶自动微分模块的算法和设计。摘自:1997年符号与年龄计算国际研讨会论文集,第149-155页,纽约(1997)·Zbl 0923.68068号
[32] Walther,A.,Griewank,A.:二项式检查点在内存减少伴随计算中的优势。收录于:Feistauer,M.、Dolejší,V.、Knobloch,P.、Najzar,K.(编辑)《数值数学与高级应用》,第834-843页。施普林格,柏林,海德堡(2004)。国际标准图书编号:978-3-642-62288-5。doi:10.1007/978-3-642-18775-9_82·Zbl 1056.65064号
[33] Sternberg,J.,Griewank,A.:通过检查点减少ODE中与时间相关的最优控制问题的存储需求。收录于:Norris,B.,Bücker,M.,Corliss,G.,Hovland,P.,Naumann,U.(编辑)《自动区分:应用、理论和实现》,第0期,第99-110页。Springer,第1版(2006)·Zbl 1270.49041号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。