×

关于求解变精度非线性优化问题的注记。 (英语) Zbl 1446.90149号

摘要:这篇简短的注释考虑了由R.G.卡特[SIAM J.Sci.Compute.14,No.2,368-388(1993;兹伯利0772.65042)]和依据A.R.连接等。[信任区域方法。费城,宾夕法尼亚州:SIAM,工业和应用数学学会;MPS,数学编程学会(2000;Zbl 0958.65071号)]作为一种用于高性能计算的工具,允许进行多精度计算以控制能量耗散至关重要。数值实验表明,使用所考虑的方法可以通过有效地利用多精度计算,在目标函数和梯度的评估“能量成本”中带来大量节省。

MSC公司:

90立方 非线性规划
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] 巴伯林,M。;Buttari,A。;Dongarra,J。;Kurzak,J。;兰古,J。;Luszczek,P。;Tomov,S.,用混合精度算法加速科学计算,计算。物理。社区。,180, 2526-2533 (2009) ·Zbl 1197.65240号 ·doi:10.1016/j.cp.2008.11.005
[2] 南卡罗来纳州贝拉维亚。;格拉顿,S。;Riccietti,E.,《函数和梯度动态精度的大型非线性最小二乘问题的Levenberg-Marquardt方法》,Numer。数学。,140, 791-825 (2018) ·Zbl 1461.65129号 ·doi:10.1007/s00211-018-0977-z
[3] Bellavia,S.,Gurioli,G.,Morini,B.:具有动态不精确Hessian信息的自适应立方正则化方法的理论研究(2018)。arXiv:1808.06239
[4] 南卡罗来纳州贝拉维亚。;古里奥利,G。;莫里尼,B。;Toint,PhL,非凸优化的不精确评估自适应正则化算法,SIAM J.Optim。,29, 4, 2881-2915 (2019) ·Zbl 1427.90228号 ·doi:10.1137/18M1226282
[5] Bergou,E.、Diouane,Y.、Kungurtsev,V.、Royer,C.W.:二阶结果的二次采样线搜索方法(2018)。arXiv:1810.07211
[6] Blanchet,J。;卡地斯,C。;梅尼克利,M。;Scheinberg,K.,基于超鞅的随机信赖域方法的收敛速度分析,INFORMS J.Optim。,1, 2, 92-119 (2019) ·doi:10.1287/ijoo.2019.0016
[7] Brown,A.A.,Bartholomew-Biggs,M.:基于常微分方程解的无约束优化的一些有效方法。技术报告技术报告178,英国哈特菲尔德哈特菲尔德理工学院(1987)·Zbl 0651.90067号
[8] Buckley,A.G.:无约束最小化的测试函数。加拿大达尔豪西大学计算科学部CS-3技术报告(1989年)
[9] Carter,R.G.:使用线性搜索方法进行数值优化的最坏情况示例,具有不精确的梯度评估。技术报告MCS-P283-1291,阿贡国家实验室,美国阿贡(1991)
[10] Carter,RG,使用不精确函数和梯度信息进行非线性优化的一类算法的数值经验,SIAM J.Sci。统计计算。,14, 2, 368-388 (1993) ·Zbl 0772.65042号 ·doi:10.1137/0914023
[11] Cartis,C.,Gould,N.I.M.,Toint,Ph.L.:非凸光滑优化二阶方法的最坏情况评估复杂性和最优性。收录于:2018年里约热内卢国际数学家会议(ICM 2018)·Zbl 1451.90177号
[12] 卡地斯,C。;Scheinberg,K.,基于概率模型的无约束优化方法的全局收敛速度分析,数学。程序。序列号。A、 159,2337-375(2018)·Zbl 1407.90307号 ·doi:10.1007/s10107-017-1137-4
[13] Chen,X.,Jiang,B.,Lin,T.,Zhang,S.:关于通过随机抽样实现凸优化的自适应三次正则化牛顿方法(2018)。arXiv:1802.05426
[14] Conn,A.R.,Gould,N.I.M.,Lescrenier,M.,Toint,Ph.L.:用于部分可分离优化的多面方案的性能。收录:Gomez,S.、Hennart,J.P.(编辑)《优化与数值分析进展》。第六届优化和数值分析研讨会论文集,墨西哥瓦哈卡,第275卷,第79-96页。Kluwer学术出版社,Dordrecht(1994)·Zbl 0809.90117号
[15] Conn,A.R.,Gould,N.I.M.,Toint,Ph.L.:LANCELOT:用于大规模非线性优化的Fortran包(A版)。计算数学史普林格系列第17名。斯普林格,海德堡(1992)·Zbl 0761.90087号
[16] 连接,AR;古尔德,NIM;厕所、PhL、信任区域方法。MPS-SIAM优化系列(2000),费城:SIAM,费城·Zbl 0958.65071号
[17] Dixon,L.C.W.,Maany,Z.:无约束优化的稀疏Hessian测试问题族。技术报告206,英国哈特菲尔德哈特菲尔德理工学院数值优化中心(1988)
[18] Elster,C。;Neumaier,A.,最小化噪声函数的信赖域类型方法,计算,58,1,31-46(1997)·Zbl 0879.90166号 ·doi:10.1007/BF02684470文件
[19] 加拉尔,S。;Horowitz,M.,节能浮点单元设计,IEEE Trans。计算。,60, 7, 913-922 (2011) ·Zbl 1367.65216号 ·doi:10.1109/TC.2010.121
[20] 古尔德,NIM;Orban,D。;Toint、PhL、CUTEst:一个有约束和无约束的测试环境,具有用于数学优化、计算的安全线程。最佳方案。申请。,60, 3, 545-557 (2015) ·Zbl 1325.90004号 ·doi:10.1007/s10589-014-9687-3
[21] Griewank,A。;Toint、PhL、大型结构化优化问题的分区变量度量更新,Numer。数学。,39, 119-137 (1982) ·Zbl 0482.65035号 ·doi:10.1007/BF01399316
[22] 新泽西州海姆:多精度计算的兴起。2017年SAMSI演讲。https://bit.ly/higham-samsi17(2017)
[23] Kugler,L.,“足够好”的计算足够好吗?,Commun公司。ACM,58,12-14(2015)·doi:10.1145/2742482
[24] Leyfer,S.,Wild,S.,Fagan,M.,Snir,M.,Palem,K.,Yoshii,K.,Finkel,H.:摩尔定律在超级计算中的不精确性(2016)。arXiv:1610.02606v2(将发表于《2018年PMES会议录:后摩尔时代超级计算第三届国际研讨会》)
[25] Li,G.,求解稀疏非线性方程组的割线/有限差分算法,SIAM J.Numer。分析。,25, 5, 1181-1196 (1988) ·兹伯利0667.65043 ·数字对象标识代码:10.1137/0725067
[26] 松冈,S.:私人通信(2018)
[27] 莫雷,JJ;Garbow,理学学士;Hillstrom,KE,测试无约束优化软件,ACM Trans。数学。软质。,7, 1, 17-41 (1981) ·Zbl 0454.65049号 ·数字对象标识代码:10.1145/355934.355936
[28] Nocedal,J。;Wright,SJ,《数值优化》。《运筹学系列》(1999),海德堡:斯普林格·Zbl 0930.65067号
[29] Palm,KV,《不精确性与计算的未来》,Philos。事务处理。R.Soc.A,37220130281(2014)·Zbl 1353.68078号 ·doi:10.1098/rsta.2013.0281
[30] Poenisch,G。;Schwetlick,H.,根据参数计算由非线性方程隐式定义的曲线转折点,Computing,20,101-121(1981)·Zbl 0463.65036号
[31] Pu,J.,Galal,S.,Yang,X.,Shacham,O.,Horowitz,M.:FPMax:28nm UTBB FDSOI中217GFLOPS/mm2单精度FPU下的106GFLOPS/W和74.6 GFLOPS/mm2双精度FPU上的43.7 GFLOPS/W。In:硬件架构(2016)
[32] 施密特,JW;Vetters,K.,Albeitungsfreie verfahren fur nichtlineare optimierungsproblem,Numer。数学。,15, 263-282 (1970) ·Zbl 0188.22802号 ·doi:10.1007/BF02165118
[33] Spedicato,E.:关于中等规模最小化问题的准Newton算法的计算经验。技术报告CISE-N-175,CISE文件服务,塞格拉特,米兰(1975)·Zbl 0397.90088号
[34] Wang,N.,Choi,J.,Brand,D.,Chen,C.-Y.,Gopalakrishnan,K.:使用8位浮点数训练深度神经网络。摘自:第32届神经信息处理系统会议(2018年)。arXiv:1812.08011
[35] Xu,P.,Roosta-Khorasani,F.,Mahoney,M.W.:不精确Hessian信息下非凸优化的Newton型方法(2017)。arXiv:1708.07164v3
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。