跳到主要内容

算法1030:SC-SR1:MATLAB有限内存SR1信任域方法软件

出版:2022年12月19日出版历史
跳过抽象节

摘要

我们提出了对称秩一(SC-SR1)方法的MATLAB实现,该方法在使用有限内存对称秩之一(L-SR1)矩阵代替可用于大规模优化的真Hessian矩阵时求解信任区域子问题。该方法利用了两个形状变化准则[布尔达科夫和袁2002; Burdakov等人。2017]将信任区域子问题分解为两个单独的问题。使用其中一个建议的准则,得到的子问题具有闭合形式的解决方案。同时,使用另一个提出的范数,得到的一个子问题具有闭合形式的解,而另一个子问题则可以使用利用L-SR1矩阵结构的技术轻松求解。数值结果表明,SC-SR1方法即使在所谓的“硬情况”下也能够高精度地求解信任区域子问题。当集成到信任区域算法中时,大量数值实验表明,与广泛使用的求解器相比,所提算法表现良好,例如截断共轭梯度。

跳过补充材料部分

补充材料

参考文献

  1. 巴齐莱J。博文·J·。.1988.两点步长梯度法.IMA J.数字。分析。 8,1(011988),141——148.谷歌学者谷歌学者交叉引用交叉引用
  2. 贝内特·J·M。.1965.修正矩阵的三角因子.数字。数学。 7,(1965),217——221.谷歌学者谷歌学者数字图书馆数字图书馆
  3. 布鲁斯特·J·J。,布尔达科夫O。,埃韦·J·B。,以及马西娅·R·F。.2019.有限记忆拟牛顿方法的稠密初始化.计算。最佳方案。申请。 74(2019),121——142.谷歌学者谷歌学者数字图书馆数字图书馆
  4. 布鲁斯特·J·J。.2018.大尺度拟Newton信赖域方法:高精度解算器、密集初始化和扩展.博士论文.加利福尼亚大学默塞德分校.谷歌学者谷歌学者
  5. 布鲁斯特·J·J。,埃韦·J·B。,以及马西娅·R·F。.2017.关于L-SR1信任域子问题的求解.计算。最佳方案。申请。 66,2(2017),245——266.谷歌学者谷歌学者数字图书馆数字图书馆
  6. 布鲁斯特·J·J。,马西娅·R·F。,以及佩特拉·C.G。.2019.具有低维线性等式约束的大尺度拟牛顿信赖域方法.计算。最佳方案。申请。 74(2019),669——701.谷歌学者谷歌学者交叉引用交叉引用
  7. 布尔达科夫·奥列格,龚路金,齐克林·斯巴达克,以及袁亚香.2017.论有限记忆和信任域技术的有效结合.数学。程序。计算。 9,1(2017),101——134.谷歌学者谷歌学者交叉引用交叉引用
  8. 伯达科夫·O。,格拉顿S。,元Y.-X。,以及Zikrin S.公司。.2018.用于无约束优化的LMTR套件。检索自http://gratton.perso.enseeiht.fr/LBFGS/index.html.谷歌学者谷歌学者
  9. 伯达科夫·O。元Y.-X。.2002.具有形状变化信赖域的有限记忆方法.英寸第一届优化方法与软件国际会议论文集.第21页.谷歌学者谷歌学者
  10. 伯德·R·H。,诺塞达尔·J。,以及施纳贝尔·R·B。.1994.拟牛顿矩阵的表示及其在有限记忆方法中的应用.数学。程序。 63(1994),129——156.谷歌学者谷歌学者交叉引用交叉引用
  11. A.R.连接。,古尔德N.I.M。,以及厕所博士。.1991.对称秩一更新生成的拟牛顿矩阵的收敛性.数学。程序。 50,2(1991),177——195.MHPGA4型谷歌学者谷歌学者数字图书馆数字图书馆
  12. A.R.连接。,古尔德N.I.M。,以及厕所P.L。.2000.信任区域方法.工业和应用数学学会,宾夕法尼亚州费城.谷歌学者谷歌学者交叉引用交叉引用
  13. 多兰·E。莫雷·J·J。.2002.使用性能配置文件对优化软件进行基准测试.数学。程序。 91(2002),201——213.谷歌学者谷歌学者交叉引用交叉引用
  14. 埃韦·J·B。吉尔体育。.2010.信赖域步长的子空间最小化方法.SIAM J.Optim公司。 20,(2010),1439——1461.谷歌学者谷歌学者数字图书馆数字图书馆
  15. 埃尔韦·J·B。,吉尔体育。,以及格里芬J.D。.2009.查找信任区域步骤的迭代方法.SIAM J.Optim公司。 20,2(2009),1110——1131.谷歌学者谷歌学者数字图书馆数字图书馆
  16. 埃韦·J·B。马西娅·R·F。.2014.算法943:MSS:MATLAB软件用于大规模优化的L-BFGS信任域子问题.ACM事务处理。数学。柔和。 40,4(六月2014),28:1–28:12.谷歌学者谷歌学者数字图书馆数字图书馆
  17. 埃韦·J·B。马西娅·R·F。.2015.关于有限记忆拟牛顿矩阵特征值的有效计算.SIAM J.矩阵分析。申请。 36,(2015),1338——1359.谷歌学者谷歌学者数字图书馆数字图书馆
  18. 同性恋博士。.1981.计算最优局部约束步长.SIAM J.科学。统计人员。计算。 2,2(1981),186——197.SIJCD4谷歌学者谷歌学者数字图书馆数字图书馆
  19. 吉尔体育。,Golub G.H.公司。,默里·W·。,以及桑德斯医学硕士。.1974.修改矩阵分解的方法.数学。公司。 28,126(1974),505——535.谷歌学者谷歌学者交叉引用交叉引用
  20. 戈德法布·D·。.1980.负曲率在最小化算法中的应用.技术报告80-412. 康奈尔大学。谷歌学者谷歌学者数字图书馆数字图书馆
  21. Golub G.H.公司。贷款C.F.Van.1996.矩阵计算(第3版).出版社,马里兰州巴尔的摩.谷歌学者谷歌学者数字图书馆数字图书馆
  22. 古尔德N.I.M。,欧尔班D。,以及厕所P.L。.2003.CUTEr和sifdec:一个受约束和无约束的测试环境,再次访问.ACM事务处理。数学。柔和。 29,4(2003),373——394.谷歌学者谷歌学者数字图书馆数字图书馆
  23. 古尔德N.I.M。,罗宾逊·D·P。,以及索恩·H·S。.2010.优化中信任域及其他正则化子问题的求解.数学。程序。计算。 2,1(2010),21——57.谷歌学者谷歌学者交叉引用交叉引用
  24. 格里瓦一世。,纳什·S·G。,以及索弗A。.2009.线性和非线性规划.工业和应用数学学会,宾夕法尼亚州费城.谷歌学者谷歌学者
  25. 凯利C.T。萨克斯·E·W·。.1998.对称秩一迭代的局部收敛性.计算。最佳方案。申请。 9,1(1998),43——63.谷歌学者谷歌学者数字图书馆数字图书馆
  26. Khalfan H.Fayez公司,伯德·R·H。,以及施纳贝尔·R·B。.1993.对称秩一更新的理论和实验研究.SIAM J.Optim公司。 ,1(1993),1——24.谷歌学者谷歌学者数字图书馆数字图书馆
  27. 鲁X。.1996.有限记忆SR1方法的实践研究.博士论文.科罗拉多大学博尔德分校计算机科学系.谷歌学者谷歌学者数字图书馆数字图书馆
  28. 马哈扬A。,莱弗尔S。,以及柯奇斯C。.2012.用QP潜水法求解混合整数非线性规划.技术报告ANL/MCS-P2071-0312。伊利诺伊州莱蒙市阿贡国家实验室数学和计算机科学部。谷歌学者谷歌学者
  29. 莫雷·J·J。索伦森特区。.1983.计算信任区域步骤.SIAM J.科学。统计人员。计算。 4(1983),553——572.谷歌学者谷歌学者数字图书馆数字图书馆
  30. 默蒂·K·G。卡巴迪S.N。.1987.二次规划和非线性规划中的几个NP-完全问题.数学。程序。 39,2(1987),117——129.谷歌学者谷歌学者交叉引用交叉引用
  31. 诺塞达尔·J。.1980.用有限存储更新拟牛顿矩阵.数学。计算。 35(1980),773——782.谷歌学者谷歌学者交叉引用交叉引用
  32. 诺塞达尔·J。赖特·S·J。.2006.数值优化(第二版).施普林格,纽约.谷歌学者谷歌学者
  33. 罗哈斯·M·。,桑托斯股份公司。,以及索伦森特区。.2008.算法873:LSTRS:用于大规模信任域子问题和正则化的MATLAB软件.ACM事务处理。数学。柔和。 34,2(2008),1——28.谷歌学者谷歌学者数字图书馆数字图书馆
  34. 索伦森特区。.1982.模型信赖域修正的牛顿方法.SIAM J.数字。分析。 19,2(1982),409——426.SJNAAM公司谷歌学者谷歌学者数字图书馆数字图书馆
  35. 施泰浩T。.1983.共轭梯度法与大规模优化中的信赖域.SIAM J.数字。分析。 20(1983),626——637.谷歌学者谷歌学者数字图书馆数字图书馆
  36. 孙伟(Sun W.)。元Y.-X。.2006.优化理论与方法.弹簧优化及其应用,卷。1.纽约州施普林格.谷歌学者谷歌学者
  37. 瓦瓦西斯B。.1992.非线性优化:复杂性问题.牛津大学出版社,英国牛津.谷歌学者谷歌学者
  38. 沃尔科维奇·H·。.1994.对称一级更新措施.数学。运营商。物件。 19,4(1994),815——830.谷歌学者谷歌学者数字图书馆数字图书馆
  39. 朱慈友,伯德·理查德·H。,陆培煌,以及诺塞达尔·豪尔赫.1997.算法778:L-BFGS-B:Fortran子例程用于大规模有界约束优化.ACM事务处理。数学。柔和。 23,4(十二月1997),550——560.谷歌学者谷歌学者数字图书馆数字图书馆

索引术语

  1. 算法1030:SC-SR1:MATLAB有限内存SR1信任域方法软件
            索引项已通过自动分类分配给内容。

            建议

            评论

            登录选项

            检查您是否可以通过登录凭据或您的机构访问本文。

            登录

            完全访问权限

            • 发布于

              数学软件上的封面图像ACM事务
              ACM数学软件汇刊 第48卷第4期
              2022年12月
              339页
              国际标准编号:0098-3500
              EISSN公司:1557-7295
              内政部:10.1145/3572845
              期刊目录

              如果复制品不是为了盈利或商业利益而制作或分发的,并且复制品的第一页载有本通知和完整引文,则允许免费制作本作品的全部或部分数字或硬拷贝以供个人或课堂使用。必须尊重ACM以外的其他人拥有的本作品组件的版权。允许用信用证进行摘要。要以其他方式复制或重新发布,在服务器上发布或重新发布到列表,需要事先获得特定许可和/或付费。从请求权限[电子邮件保护].

              出版商

              计算机协会

              美国纽约州纽约市

              出版历史

              • 出版:2022年12月19日
              • 在线AM:2022年7月22日
              • 接受日期:2022年6月9日
              • 修订过的:2022年2月5日
              • 收到时间:2021年5月18日
              发布于汤姆斯第48卷第4期

              权限

              请求有关此文章的权限。

              请求权限

              检查更新

              限定符

              • 研究论文
              • 推荐

            PDF格式

            以PDF文件查看或下载。

            PDF格式

            电子阅读器

            使用eReader联机查看。

            电子阅读器

            全文

            以全文形式查看本文。

            查看全文

            HTML格式

            以HTML格式查看本文。

            查看HTML格式