×

DIRECT算法:25年后。 (英语) Zbl 1466.90076号

摘要:DIRECT全局优化算法于1993年引入,它提供了一种新的方法来最小化受变量上下限约束的黑盒函数。与过多的自然启发法相反,DIRECT是确定性并且只有一个超参数(所需的精度)。此外,该算法简单、易于实现,通常在低维问题(最多六个变量)上表现良好。最重要的是,DIRECT以一种独特的方式平衡了局部和全局搜索(利用与探索):在每个迭代中,采样了几个点,一些用于全局搜索,一些用于局部搜索。这种方法消除了对“调整参数”的需要,这些参数设置了本地搜索和全局搜索之间的平衡。然而,使DIRECT简单且概念上有吸引力的相同功能也造成了弱点。例如,人们普遍观察到,虽然DIRECT通常可以快速找到全局最优的流域,但将解决方案微调到高精度可能会很慢。在本文中,我们找出了几个这样的弱点,并调查了不同研究人员的工作,以扩展DIRECT,使其性能更好。所有扩展都显示出在各种测试功能上比DIRECT有了实质性的改进。一个突出的挑战是提高绩效强壮地跨越不同难度的问题,从简单(单峰,少变量)到非常困难(多峰,尖峰,多变量)。进一步改进的机会可能在于将不同扩展的最佳功能结合起来。

MSC公司:

90C26型 非凸规划,全局优化
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] Bartholomew-Biggs,MC;南卡罗来纳州帕克赫斯特;Wilson,SP,使用DIRECT解决飞机路线问题,计算。最佳方案。申请。,21, 3, 311-323 (2002) ·Zbl 1017.90133号 ·doi:10.1023/A:1013729320435
[2] 贝尔夫基拉,R。;张,L。;Barakat,G.,风力/光伏/柴油混合发电机组的最佳规模研究,太阳能,85,1,100-110(2011)·doi:10.1016/j.solener.2010.10.018
[3] 坎帕纳,EF;Diez,M。;美国耶玛。;刘齐,G。;Lucidi,S。;Rinaldi,F。;Serani,A.,使用DIRECT算法的全局/局部混合进行无导数全局船舶设计优化,Optim。工程师,17,1,127-156(2016)·Zbl 1365.90213号 ·doi:10.1007/s11081-015-9303-0
[4] 卡佩拉里,M。;弗罗尔姆,EK;范德马雷尔,RP;克莱因,GAV;伊利沃思,GD;弗兰克斯,M。;Carollo,CM;deZeeuw,PT,IC 1459的反旋转核心和黑洞质量,天体物理学。J.,578,2787-805(2002)·doi:10.1086/342653
[5] 卡特,RG;加布隆斯基,吉咪;帕特里克,A。;康涅狄格州凯利;OJ Eslinger,《输气管道优化中噪声问题的算法》,Optim。工程,2,2,139-157(2001)·Zbl 1079.90624号 ·doi:10.1023/A:1013123110266
[6] Chang,Y。;洪,K。;Lee,S.,用神经网络和DIRECT算法进行人脸检测,Artif。生命机器人。,12, 1, 112 (2008) ·doi:10.1007/s10015-007-0491-3
[7] 科斯塔,MFP;罗查,AMA;Fernandes,EM,基于过滤器的约束全局优化DIRECT方法,J.Glob。最佳。,71, 3, 517-536 (2018) ·Zbl 1402.90127号 ·doi:10.1007/s10898-017-0596-8
[8] Cox,SE公司;哈夫特卡,RT;加利福尼亚州贝克;格罗斯曼,B。;梅森,WH;Watson,LT,《高速民用运输设计的全局优化方法比较》,J.Glob。最佳。,21, 4, 415-432 (2001) ·Zbl 1014.90072号 ·doi:10.1023/A:1012782825166
[9] Deng,G.,Ferris,M.C.:带噪函数的DIRECT优化算法的扩展。收录:第39届冬季模拟会议记录:40年!《最美好的未来》(WSC’07),第497-504页。IEEE出版社,皮斯卡塔韦(2007)。http://dl.acm.org/citation.cfm?id=1351542.1351641
[10] Di Pillo,G。;Lucidi,S。;Rinaldi,F.,基于精确罚函数的约束全局优化的无导数算法,J.Optim。理论应用。,1643862-882(2015年)·Zbl 1330.90085 ·doi:10.1007/s10957-013-0487-1
[11] 迪皮洛,G。;刘齐,G。;Lucidi,S。;皮卡利,V。;Rinaldi,F.,《无导数约束全局优化的直接型方法》,计算。最佳方案。申请。,65, 2, 361-397 (2016) ·Zbl 1370.90189号 ·doi:10.1007/s10589-016-9876-3
[12] Elsakov,SM;Shiryaev,VI,多极值优化的齐次算法,计算。数学。数学。物理。,50, 10, 1642-1654 (2010) ·Zbl 1224.90152号 ·doi:10.1134/S0965542510100027
[13] Fellini,R.、Michelena,N.、Papalambros,P.、Sasena,M.:汽车混合动力系统的优化设计。摘自:《环境意识设计和逆向制造第一届国际研讨会论文集》,第400-405页(1999年)。doi:10.1109/ECODIM.1999.747645
[14] 德国芬克尔;Kelley,CT,《加性缩放和DIRECT算法》,J.Glob。最佳。,36, 4, 597-608 (2006) ·Zbl 1142.90488号 ·doi:10.1007/s10898-006-9029-9
[15] Finkel,D.E.,Kelly,C.T.:DIRECT的自适应重启实现。技术报告,技术报告CRSC-TR04-30,北卡罗来纳州立大学科学计算研究中心,罗利(2004)。https://repository.lib.ncsu.edu/bitstream/handle/1840.4/461/crsc-tr04-30.pdf?sequence=1
[16] 弗莱彻,R。;Leyffer,S.,《无惩罚函数的非线性规划》,数学。程序。,269, 239-269 (2002) ·Zbl 1049.90088号 ·doi:10.1007/s101070100244
[17] Gablonsky,J.:DIRECT算法的修改。北卡罗来纳州立大学博士论文,罗利(2001年)。https://repository.lib.ncsu.edu/handle/1840.16/3920 ·Zbl 1039.90049号
[18] 加布隆斯基,J。;Kelly,CT,DIRECT算法的一种局部偏倚形式,J.Glob。最佳。,21, 1, 27-37 (2001) ·Zbl 1039.90049号 ·doi:10.1023/A:1017930332101
[19] 加维亚诺,M。;德国科瓦索夫;Lera博士。;谢尔盖耶夫,YD,《算法829:生成具有已知局部和全局极小值的测试函数类以进行全局优化的软件》,ACM-Trans。数学。软质。,29, 4, 469-480 (2003) ·兹比尔1068.90600 ·doi:10.1145/962437.962444
[20] 吉拉德,JW;Kvasov,DE,Lipschitz优化方法,用于将阻尼正弦和拟合到一系列观测值,Stat.Its Interface,10,1,59-70(2017)·Zbl 1387.90196号 ·doi:10.4310/SII.2017.v10.n1.a6
[21] Grbić,R。;埃及尼亚科;Scitovski,R.,对称函数Lipschitz全局优化的DIRECT方法的修改,J.Glob。最佳。,57, 4, 1193-1212 (2013) ·Zbl 1279.65076号 ·doi:10.1007/s10898-012-0020-3
[22] Hansen,P。;Jaumard,B。;霍斯特,R。;Pardalos,PM,Lipschitz优化,全球优化手册,407-493(1995),波士顿:斯普林格,波士顿·Zbl 0833.90105号 ·doi:10.1007/978-1-4615-225-29
[23] Hansen,P。;Jaumard,B。;Lu,SH,关于在全局优化中使用Lipschitz常数估计,J.Optim。理论应用。,75, 1, 195-200 (1992) ·Zbl 0795.90065号 ·doi:10.1007/BF00939912
[24] Hao,J。;于,Z。;赵,Z。;沈,P。;Zhan,X.,使用DIRECT算法优化混合动力电动汽车能源管理策略的关键参数,能源,9,12,997(2016)·doi:10.3390/en9120997
[25] Hedar,A.:全局优化测试问题。http://www-optima.amp.i.kyoto-u.ac.jp/member/student/hedar/hedar_files/TestGO.htm (2020)
[26] Holmström,K.:TOMLAB GlcCluster。http://tomwiki.com/GlcCluster#描述/
[27] Huyer,W。;Neumaier,A.,通过多级坐标搜索进行全局优化,J.Glob。最佳。,14, 4, 331-355 (1999) ·Zbl 0956.90045号 ·doi:10.1023/A:1008382309369
[28] Jarvis,RA,关于识别平面中有限点集的凸包,Inf.过程。莱特。,2, 1, 18-21 (1973) ·Zbl 0256.68041号 ·doi:10.1016/0020-0190(73)90020-3
[29] Jones,D.R.:直接全局优化算法。摘自:Floudas,C.A.,Pardalos,P.M.(编辑)《优化百科全书》,第431-440页。斯普林格,波士顿(2001)。doi:10.1007/0-306-48332-7_93
[30] Jones博士;Perttunen,CD;Stuckman,BE,无利普希茨常数的利普希兹优化,J.Optim。理论应用。,79, 1, 157-181 (1993) ·Zbl 0796.49032号 ·doi:10.1007/BF00941892
[31] 科卡尔,C。;梅尔,C。;van Bijnen,R。;Brydges,T。;MK乔希;Jurcevic,P。;加利福尼亚州马斯奇克;Silvi,P。;布拉特·R。;Roos,CF;Zoller,P.,晶格模型的自验证变分量子模拟,《自然》,569,7756,355-360(2019)·doi:10.1038/s41586-019-1177-4
[32] 德国科瓦索夫;Pizzuti,C。;谢尔盖耶夫,YD,对角线GO方法的局部调整和分区策略,数值。数学。,94, 1, 93-106 (2003) ·Zbl 1056.65059号 ·doi:10.1007/s00211-002-0419-8
[33] Kvasov,DE,基于有效对角线分区的多维lipschitz全局优化,4OR,6,403-406(2008)·Zbl 1179.90263号 ·doi:10.1007/s10288-007-0065-1
[34] 德国科瓦索夫;Menniti,D。;Pinnarelli,A。;谢尔盖耶夫,YD;Sorrentino,N.,通过基于有效域划分的全局优化算法调整多机系统中的模糊电力系统稳定器,Electr。电力系统。第78、7、1217-1229号决议(2008年)·doi:10.1016/j.epsr.2007.10.09
[35] 朗·H。;刘,L。;Yang,Q.,通过DIRECT全局优化算法设计URA,Optik,120,8,370-373(2009)·doi:10.1016/j.ijleo.2007.09.010
[36] 刘,H。;徐,S。;王,X。;吴杰。;Song,Y.,通过扩展的DIRECT方案解决基于模拟的问题的全局优化算法,工程优化。,1441-1458年11月47日(2015年)·doi:10.1080/03052115X.2014.971777
[37] 刘,H。;徐,S。;陈,X。;王,X。;Ma,Q.,通过DIRECT类型约束处理技术和自适应元建模策略进行约束全局优化,Struct。多磁盘。最佳。,55, 1, 155-177 (2017) ·doi:10.1007/s00158-016-1482-6
[38] 刘,Q。;曾杰。;Yang,G.,MrDIRECT:用于全局优化问题的多级鲁棒DIRECT算法,J.Glob。最佳。,62, 2, 205-227 (2015) ·Zbl 1326.90065号 ·doi:10.1007/s10898-014-0241-8
[39] 刘,Q。;Yang,G。;张,Z。;Zeng,J.,提高DIRECT全局优化算法的收敛速度,J.Glob。最佳。,67, 4, 851-872 (2017) ·Zbl 1370.90193号 ·doi:10.1007/s10898-016-0447-z
[40] 刘齐,G。;Lucidi,S。;Piccialli,V.,一种基于直接的方法,利用局部最小化来解决大规模全局优化问题,Compute。最佳方案。申请。,45, 2, 353-375 (2010) ·Zbl 1187.90275号 ·doi:10.1007/s10589-008-9217-2
[41] 刘齐,G。;Lucidi,S。;Piccialli,V.,在DIRECT型算法中开发无导数局部搜索以实现全局优化,计算。最佳方案。申请。,65, 2, 449-475 (2016) ·Zbl 1370.90194号 ·doi:10.1007/s10589-015-9741-9
[42] 永贝里,K。;Holmgren,S。;卡尔堡。,使用全局优化算法DIRECT同时搜索多个QTL,生物信息学,20,12,1887-1895(2004)·doi:10.1093/bioinformatics/bth175
[43] Lovison,A。;Miettinen,K.,DIRECT算法对多目标的精确扩展,AIP Conf.Proc。,2070, 1, 020053 (2019) ·数字对象标识代码:10.1063/1.5090020
[44] J.马洛特。;Bourennane,S.,基于子空间和DIRECT的畸变圆形轮廓估计算法,IEEE Trans。图像处理。,16, 9, 2369-2378 (2007) ·Zbl 1168.94425号 ·doi:10.1109/TIP.2007.903907
[45] Mockus,J.,关于Lipschitzian优化背景下的帕累托最优,Informatica,22,4521-536(2011)·Zbl 1272.90061 ·doi:10.15388/INFORMATICA.2011.340
[46] 莫库斯,J。;Paulavičius,R。;Rusakevičius博士。;Šešok,D。;ſilinskas,J.,简化集Pareto-Lipschitzian优化在桁架优化中的应用,J.Glob。最佳。,67, 1, 425-450 (2017) ·Zbl 1359.90131号 ·doi:10.1007/s10898-015-0364-6
[47] 鼹鼠,CG;门德斯,P。;Banga,JR,《生物化学途径中的参数估计:全局优化方法的比较》,《基因组研究》,13,11,2467-2474(2003)·doi:10.1101/gr.1262503
[48] Na,J。;Lim,Y。;Han,C.,液化天然气工艺优化中隐藏约束的改进DIRECT算法,能源,126488-500(2017)·doi:10.1016/j.energy.2017.03.047
[49] Nguyen,TL;Low,K.,一种采用直接搜索算法的光伏系统全局最大功率点跟踪方案,IEEE Trans。Ind.Electron公司。,57, 10, 3456-3467 (2010) ·doi:10.1109/TIE.2009.2039450
[50] Paulavičius,R.,ſilinskas,J.:无Lipschitz常数的简单Lipschit优化。摘自:《简单全局优化》,第61-86页。Springer,纽约(2014)doi:10.1007/978-1-4614-9093-7_3·Zbl 1300.90031号
[51] 保拉维奇乌斯,R。;谢尔盖耶夫,YD;德国科瓦索夫;Ju ilinskas,J.,用于昂贵全局优化的全局偏倚DISIMPL算法,J.Glob。最佳。,59, 2, 545-567 (2014) ·Zbl 1297.90130号 ·文件编号:10.1007/s10898-014-0180-4
[52] 保拉维奇乌斯,R。;Chiter,L。;基于矩形平分、对角线函数值和一组Lipschitz常数的全局优化,J.Glob。最佳。,71, 1, 5-20 (2018) ·Zbl 1402.90134号 ·doi:10.1007/s10898-016-0485-6
[53] 保拉维奇乌斯,R。;谢尔盖耶夫,YD;德国科瓦索夫;Ju ilinskas,J.,用于昂贵全局优化的带有局部加速器的全局偏倚BIRECT算法,专家系统。申请。,144113052(2020)·doi:10.1016/j.eswa.2019.113052
[54] 品特,JD;Pardalos,P.,《作用中的全局优化》,《非凸优化及其应用》,第6卷。(1996),美国:斯普林格,美国·兹伯利0842.90110 ·doi:10.1007/978-1-4757-2502-5
[55] Piyavskii,SA,求函数绝对极值的算法,苏联计算。数学。数学。物理。,12, 4, 57-67 (1972) ·Zbl 0282.65052号 ·doi:10.1016/0041-5553(72)90115-2
[56] Powell,M.J.D.:无导数的有界约束优化的BOBYQA算法。剑桥大学应用数学和理论物理系技术报告(2009年)。http://www.damtp.cam.ac.uk/user/na/na_papers/NA2009_06.pdf
[57] 里奥斯,LM;Sahinidis,NV,《无导数优化:算法综述和软件实现比较》,J.Glob。最佳。,56, 1247-1293 (2013) ·Zbl 1272.90116号 ·doi:10.1007/s10898-012-9951-y
[58] Ruf,F.,Neiss,A.,Barthels,A.,Kohler,T.P.,Michel,H.,Froeschl,J.,Herzog,H.:在物理模拟中使用并行DIRECT算法对14 V汽车电网进行设计优化。收录于:2012年第13届电气和电子设备优化国际会议(OPTIM),第73-80页(2012年)。doi:10.1109/OPTIM.2012.6231911
[59] 鲁道夫·西托夫斯基(Rudolf Scitovski);Sabo,Kristian,DIRECT算法在搜索集合(a)的最优(k)-划分中的应用及其在多圆检测问题中的应用,J.Glob。最佳。,74, 1, 63-77 (2019) ·Zbl 1461.65185号 ·doi:10.1007/s10898-019-00743-8
[60] 谢尔盖耶夫(Sergeyev),YD,一种具有局部调整的信息全局优化算法,SIAM J.Optim。,5, 4, 858-870 (1995) ·Zbl 0847.90128号 ·doi:10.1137/0805041
[61] 谢尔盖耶夫,YD,使用平滑辅助函数的全局一维优化,数学。程序。,81, 1, 127-146 (1998) ·Zbl 0920.90133号 ·doi:10.1007/BF0158488
[62] 谢尔盖耶夫,YD,对角算法框架下n维区间自适应划分的有效策略,J.Optim。理论应用。,107, 1, 145-168 (2000) ·Zbl 0969.90068号 ·doi:10.1023/A:1004613001755
[63] 谢尔盖耶夫,YD;Kvasov,DE,基于有效对角线分区和一组Lipschitz常数的全局搜索,SIAM J.Optim。,16, 3, 910-937 (2006) ·兹比尔1097.65068 ·doi:10.1137/040621132
[64] Sergeyev,Y.D.,Kvasov,D.E.:确定性全局优化:对角线方法简介。斯普林格优化简报。施普林格,柏林(2017)。doi:10.1007/978-1-4939-7199-2·Zbl 1371.90112号
[65] 谢尔盖耶夫,YD;德国科瓦索夫;Mukhametzhanov,MS,关于自然启发元启发式在预算有限的昂贵全局优化中的效率,科学。代表8、1、453(2018年)·数字对象标识代码:10.1038/s41598-017-18940-4
[66] 谢尔盖耶夫,YD;德国科瓦索夫;Mukhametzhanov,MS,关于一类使用无限和无穷小尺度的全局优化算法的强同质性,Commun。非线性科学。数字。模拟。,59, 319-330 (2018) ·Zbl 1510.90292号 ·doi:10.1016/j.cnsns.2017.11.013
[67] Shubert,B.,求函数全局最大值的序列方法,SIAM J.Numer。分析。,9, 3, 379-388 (1972) ·Zbl 0251.65052号 ·数字对象标识代码:10.1137/0709036
[68] Stripinis,L。;保拉维奇乌斯,R。;ſilinskas,J.,DIRECT中选择潜在最优超矩形的改进方案,Optim。莱特。,12, 7, 1699-1712 (2018) ·Zbl 1407.90264号 ·doi:10.1007/s11590-017-1228-4
[69] Stripinis,L。;保拉维奇乌斯,R。;Ju ilinskas,J.,基于惩罚函数和两步选择过程的约束全局优化DIRECT型算法,Struct。多磁盘。最佳。,59, 6, 2155-2175 (2019) ·doi:10.1007/s00158-018-2181-2
[70] Strongin,R.G.,Sergeyev,Y.D.:具有非凸约束的全局优化:序列和并行算法,非凸优化及其应用第45卷。美国施普林格(2000)。doi:10.1007/978-1-4615-4677-1·Zbl 0987.90068号
[71] Svensson,B.,Nia,N.K.,Danielsson,F.,Lennartson,B.:使用DIRECT和Nelder-Mead组合算法调整钣金冲压生产线参数。载于:ETFA2011,第1-8页(2011年)。doi:10.1109/ETFA.2011.6059031
[72] 陶,Q。;黄,X。;王,S。;Li,L.,自适应块坐标DIRECT算法,J.Glob。最佳。,69,797-822(2017)·兹比尔1385.90022 ·doi:10.1007/s10898-017-0541-x
[73] 塔瓦索利,A。;哈吉科莱,KH;Sadeqi,S。;王,GG;Kjeang,E.,高维设计问题的DIRECT修改,工程优化。,46, 6, 810-823 (2014) ·doi:10.1080/0305215X.2013.800057
[74] Wipke,K.,Markel,T.,Nelson,D.:优化氢燃料电池SUV的能源管理策略和一定程度的混合。摘自:第18届电动汽车研讨会(EVS-18)会议记录,德国柏林(2001)。https://pdfs.semanticschoolr.org/b1cd/d6b0ab88dd50b2d228854bd9de351278544.pdf
[75] Wong,C.S.Y.,Al-Dujaili,A.,Sundaram,S.:基于超容量的多目标优化DIRECT。摘自:《2016年遗传和进化计算会议指南》,GECCO’16指南,第1201-1208页(2016)。ACM,纽约。doi:10.1145/2908961.2931702
[76] 肖一鸣;哈桑·里瓦兹;查巴纳斯,马蒂厄;玛丽斯·福廷(Maryse Fortin);伊内斯·马查多(Ines Machado);欧阳明;Heinrich,Mattias P。;朱莉娅·施纳贝尔(Julia A.Schnabel)。;钟、夏;安德烈亚斯·迈尔(Andreas Maier),《MRI对脑移位校正超声配准方法的评估:CuRIOUS2018挑战》,IEEE Trans。医学成像,39,3,777-786(2020)·doi:10.1109/TMI.2019.2935060
[77] 朱,H。;Bogy,DB,DIRECT算法及其在滑动轴承表面优化中的应用,IEEE Trans。马格纳。,38, 5, 2168-2170 (2002) ·doi:10.1109/TMAG.2002.802794
[78] Zhilinskas,A.,关于基于多峰目标函数统计模型的两种全局优化算法的强同质性,Appl。数学。计算。,218, 16, 8131-8136 (2012) ·Zbl 1245.90094号 ·doi:10.1016/j.amc.2011.07.051
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。