×

球约束优化的无导数算法。 (英语) Zbl 1441.90182号

摘要:球面约束优化是将单位球面上的目标函数最小化,在数值多线性代数、信号处理、固体力学等领域有着广泛的应用。本文考虑了目标函数导数不可用的情况。这种情况经常出现在计算科学、化学、物理和其他巨大的领域。为了探索上述问题的球面结构,我们应用Cayley变换来保持球面上的迭代,并提出了一种无导数算法,该算法采用了一个简单的基于模型的信任域框架。在温和的条件下,建立了该算法的全局收敛性。初步的数值实验表明了我们算法的良好性能。

MSC公司:

90 C56 无导数方法和使用广义导数的方法
90立方 非线性规划
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] Audet,C。;Hare,W.,Derivative-Free and Blackbox Optimization(2017),柏林:施普林格出版社,柏林·Zbl 1391.90001号
[2] Boufounos,P.,Baraniuk,R.:1位压缩传感。参加:信息科学与系统会议(CISS)。普林斯顿大学(2008)
[3] Chang,J.等人。;陈,Y。;Qi,L.,计算超图产生的大规模稀疏张量的特征值,SIAM J.Sci。计算。,38,A3618-A3643(2016)·兹比尔1350.05109 ·doi:10.1137/16M1060224
[4] 陈,Y。;齐,L。;王强,计算大尺度Hankel张量的极值特征值,科学学报。计算。,68, 716-738 (2016) ·兹比尔1377.65046 ·doi:10.1007/s10915-015-0155-8
[5] 陈,Y。;齐,L。;Zhang,X.,超图分割用拉普拉斯张量的菲德勒向量,SIAM J.Sci。计算。,39,A2508-A2537(2017)·Zbl 1375.05184号 ·doi:10.1137/16M1094828
[6] 科内乔,P。;卡拉斯,E。;Pedroso,L.,约束优化的无信任区域导数算法,Optim。方法软件。,30, 1126-1145 (2015) ·Zbl 1328.90160号 ·doi:10.1080/10556788.2015.1026968
[7] 连接器,AR;Scheinberg,K。;厕所,PhL;Iserles,A。;Buhmann,M.,《关于无约束优化无导数方法的收敛性,逼近理论与优化》,《向M.J.D.Powell致敬》,83-108(1997),剑桥:剑桥大学出版社,剑桥·Zbl 1042.90617号
[8] Conn,A.R.,Scheinberg,K.,Toint,Ph.L.:实践中的无导数优化算法。载:第七届美国航空航天局/美国空军/美国国家航空航天局/ISSMO多学科分析与优化研讨会论文集,第1-11页。弗吉尼亚州雷斯顿AIAA(1998)
[9] 连接器,AR;Scheinberg,K。;维森特,LN,无导数优化中插值集的几何,数学。程序。,111, 141-172 (2008) ·兹比尔1163.90022 ·doi:10.1007/s10107-006-0073-5
[10] 连接器,AR;Scheinberg,K。;Vicente,LN,一般无导数信任区域算法到一阶和二阶临界点的全局收敛,SIAM J.Optim。,20, 387-415 (2009) ·Zbl 1187.65062号 ·数字对象标识代码:10.1137/060673424
[11] Conn,A.R.,Scheinberg,K.,Vicente,法律公告:无导数优化简介。MPS/SIAM系列。最佳方案。8.费城SIAM(2009)·Zbl 1163.49001号
[12] 连接器,AR;厕所,Ph L。;Pillo,G.Di;Giannessi,F.,《无约束无导数优化的二次插值算法》,非线性优化与应用,27-47(1996),纽约:Plenium出版社,纽约·Zbl 0976.90102号
[13] JE丹尼斯;Schnabel,RB,无约束优化和非线性方程的数值方法(1983),恩格尔伍德悬崖:普伦蒂斯·霍尔,恩格尔伍德悬崖·Zbl 0579.65058号
[14] Golub,生长激素;Van Loan,CF,矩阵计算(2013),巴尔的摩:约翰霍普金斯大学出版社,巴尔的摩尔·Zbl 1268.65037号
[15] 格雷,G。;科尔达,T。;销售额,K。;Young,M.,优化跨膜蛋白结构测定的经验评分函数,INFORMS J.Compute。,16, 406-418 (2004) ·Zbl 1239.90115号 ·doi:10.1287/ijoc.1040.0102
[16] Griewank,A。;Birge,JR;Murty,KG,《计算微分与优化》,《数学编程:最新进展》,102-131(1994),安娜堡:密歇根大学,安娜布尔
[17] Griewank,A。;Coriss,G.,《算法的自动区分》(1991),费城:SIAM,费城·Zbl 0747.00030号
[18] 汉族,DH;戴,H。;Qi,L.,各向异性弹性材料强椭圆的条件,J.Elast。,97,1-13(2009年)·Zbl 1252.74006号 ·doi:10.1007/s10659-009-9205-5
[19] 胡克,R。;Jeeves,TA,《数值和统计问题的直接搜索解决方案》,J.Assoc.Compute。机器。,8, 212-229 (1961) ·Zbl 0111.12501号 ·数字对象标识代码:10.1145/321062.321069
[20] 黄,XJ;Zhu,DT,约束下无导数优化的内仿射尺度三次正则化算法,J.Compute。申请。数学。,321, 108-127 (2017) ·Zbl 1365.49030号 ·doi:10.1016/j.cam.2017.02.028
[21] Laska,J.N.,Wen,Z.,Yin,W.,Baraniuk,R.G.:信任但验证:从1位压缩测量中快速准确地恢复信号。技术报告。莱斯大学(2010)·兹比尔1393.94314
[22] 刘齐,G。;Lucidi,S。;Sciandone,M.,非线性约束优化的序列惩罚无导数方法,SIAM J.Optim。,202614-2635(2010年)·Zbl 1223.65045号 ·doi:10.1137/090750639
[23] Marazzi,M。;Nocedal,J.,无导数优化的楔形信赖域方法,数学。程序。,91, 289-305 (2002) ·Zbl 1049.90134号 ·doi:10.1007/s101070100264
[24] 梅扎,JC;Martinez,ML,《关于分子构象问题的直接搜索方法的使用》,J.Compute。化学。,15, 627-632 (1994) ·doi:10.1002/jcc.540150606
[25] 更多,JJ;Wild,SM,基准无导数优化算法,SIAM J.Optim。,20, 172-191 (2009) ·Zbl 1187.90319号 ·doi:10.1137/080724083
[26] 拿撒勒,L。;Tseng,P.,Gilding the lily:基于黄金分割搜索的Nelder-Mead算法的变体,计算。最佳方案。申请。,22, 133-144 (2002) ·Zbl 1007.90062号 ·doi:10.1023/A:1014842520519
[27] 内尔德,JA;Mead,R.,函数最小化的单纯形方法,计算。J.,7308-313(1965)·Zbl 0229.65053号 ·doi:10.1093/comjnl/7.4.308
[28] 诺曼·卡茨,I。;库珀,L.,《球体上的最佳位置》,计算机。数学。申请。,6, 175-196 (1980) ·Zbl 0451.65046号 ·doi:10.1016/0898-1221(80)90027-9
[29] 机动,R。;Bierlaire,M.,医学图像配准问题的一种新的无导数算法,国际J模型。模拟。,27, 115-124 (2007) ·doi:10.1080/02286203.2007.11442407
[30] 鲍威尔,MJD;戈麦斯,S。;Hennart,J-P,通过线性插值对目标函数和约束函数建模的直接搜索优化方法,《优化与数值分析进展》,51-67(1994),多德雷赫特:Kluwer,Dordrecht·Zbl 0826.90108号
[31] Powell,M.J.D.:一种通过二次插值对目标建模的直接搜索优化方法。附:在第五届斯德哥尔摩优化日(1994年)上的演讲·Zbl 0826.90108号
[32] Powell,MJD,UOBYQA:二次近似的非约束优化,数学。程序。,92, 555-582 (2002) ·Zbl 1014.65050号 ·doi:10.1007/s101070100290
[33] Powell,MJD,满足插值条件的二次模型的最小Frobenius范数更新,数学。程序。序列号。B、 100183-215(2004)·Zbl 1146.90526号 ·doi:10.1007/s10107-003-0490-7
[34] 鲍威尔,MJD;Di Pillo,G。;Roma,M.,无导数无约束优化的NEWUOA软件,大尺度非线性优化,255-297(2006),纽约:Springer,纽约·Zbl 1108.90005号
[35] 价格,CJ;Coope,ID;Byatt,D.,Nelder-Mead算法的收敛变体,J.Optim。理论应用。,113, 5-19 (2002) ·兹比尔1172.90508 ·doi:10.1023/A:1014849028575
[36] Qi,L.,实超对称张量的特征值,J.符号。计算。,40, 1302-1324 (2005) ·Zbl 1125.15014号 ·doi:10.1016/j.jsc.2005.05.007
[37] Ragonneau,T.,Zhang,Z.:PDFO:鲍威尔的无导数优化软件。可在http://zhangzk.net/software.html (2019)
[38] Ryan,SD;郑,X。;Palffy-Muhoray,P.,《球面上曲率驱动的泡沫粗化:计算机模拟》,Phys。E版,93,053301-053301(2016)·doi:10.1103/PhysRevE.93.053301
[39] 公共关系部桑帕约;Toint,PhL,用于等式约束的无导数信任隧道方法,计算。最佳方案。申请。,61, 25-49 (2015) ·Zbl 1311.90187号 ·doi:10.1007/s10589-014-9715-3
[40] 孙,WY;袁,Y-X,优化理论与方法。施普林格优化及其应用(2006)第一卷,纽约:施普林格,纽约·邮编1129.90002
[41] Torczon,V.J.:多向搜索:并行机的直接搜索算法。休斯顿莱斯大学博士论文(1989年)
[42] VJ,Torczon,关于模式搜索算法的收敛性,SIAM J.Optim。,7,1-25(1997年)·Zbl 0884.65053号 ·doi:10.1137/S1052623493250780
[43] Wen,Z。;Yin,W.,一种具有正交约束的可行优化方法,数学。程序。,142, 397-434 (2013) ·兹比尔1281.49030 ·doi:10.1007/s10107-012-0584-1
[44] Winfield,D.:通过数据表中的插值进行函数和函数优化。哈佛大学博士论文,剑桥(1969年)
[45] Winfield,D.,《通过数据表内插实现函数最小化》,J.Inst.Math。申请。,12, 339-347 (1973) ·Zbl 0274.90060号 ·doi:10.1093/imamat/12.3.339
[46] Yamaguchi,K.,Borda在sphere上的设施位置问题上获得了冠军,Soc.Choice Welf。,46, 893-898 (2016) ·Zbl 1391.90392号 ·doi:10.1007/s00355-015-0940-1
[47] 张,HC;连接器,AR;Scheinberg,K.,《最小二乘最小化的无导数算法》,SIAM J.Optim。,20, 3555-3576 (2010) ·Zbl 1213.65091号 ·数字对象标识码:10.1137/09075531X
[48] Zhang,Sobolev二次函数半范数及其在无导数优化中的应用,数学。程序。,146, 77-96 (2014) ·Zbl 1315.90063号 ·文件编号:10.1007/s10107-013-0679-3
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。