查尔斯·奥德特；让·比吉恩；罗曼·库德克 将交叉熵和MADS方法相结合用于不等式约束的全局优化。 （英语） Zbl 1476.90250号 序号操作。Res.论坛 2，第3号，第33号论文，第26页（2021年）. 摘要：本文提出了一种将网格自适应直接搜索（MADS）算法与交叉熵（CE）方法相结合的非光滑约束优化方法。CE方法被MADS算法用作探索步骤。这种组合的结果保留了MADS的收敛特性，并允许进行有效的探索，以远离局部极小值。CE方法根据多元正态分布对试验点进行采样，其平均值和标准差是根据迄今为止发现的最佳点计算得出的。数值实验表明，与其他全局优化启发式算法相比，该方法具有较高的效率。此外，将该方法应用于复杂的工程测试问题时，可以对到达可行区域和避开局部极小值进行重要改进。 MSC公司： 90C26型 非凸规划，全局优化 关键词：交叉熵；MADS公司；全局优化；无导数优化；黑盒优化；约束优化 软件：小背包；NOMAD公司；切割机；12月6日；全局优化测试；CMA-ES公司；皮莫 PDF格式BibTeX公司 XML格式引用 \textit｛C.Audet｝等人，SN Oper。Res.Forum 2，No.3，论文编号33，26 p.（2021；Zbl 1476.90250） 全文： 内政部 arXiv公司 哈尔 参考文献： [1] 康恩，A。；Scheinberg，K。；Vicente，L.，《无导数优化导论》（2009），费城：MOS-SIAM优化系列。费城SIAM·Zbl 1163.49001号 ·数字对象标识代码：10.1137/1.9780898718768 [2] Audet，C。；Hare，W.，Derivative-Free and Blackbox Optimization（2017），柏林：Springer运筹学和金融工程系列。Springer International Publishing，柏林·Zbl 1391.90001号 ·数字对象标识代码：10.1007/978-3-319-68913-5 [3] Audet，C。；Dennis，J.Jr，约束优化的网格自适应直接搜索算法，SIAM J Optim，17，1，188-217（2006）·兹比尔1112.90078 ·数字对象标识代码：10.1137/040603371 [4] Clarke F（1983）优化与非光滑分析。John Wiley&Sons，纽约。1990年由费城SIAM出版社重新发行，作为应用数学经典系列的第5卷 [5] Audet，C。；贝查德，V。；Le Digabel，S.，通过网格自适应直接搜索和可变邻域搜索进行非光滑优化，J Glob Optim，41，2，299-318（2008）·Zbl 1157.90535号 ·doi:10.1007/s10898-007-9234-1 [6] Stein，M.，使用拉丁超立方体采样的模拟大样本特性，技术计量学，29，2，143-151（1987）·Zbl 0627.62010号 ·doi:10.1080/00401706.1987.10488205 [7] Hansen N（2006）《CMA进化策略：比较评论》。《走向新的进化计算》，Lozano J，Larrañaga P，Inza I，Bengoetxea E，Eds.，《模糊性和软计算研究》第192卷。施普林格-柏林-海德堡，第75-102页·Zbl 1089.68121号 [8] Goldberg，D.，《搜索、优化和机器学习中的遗传算法》（1989年），美国马萨诸塞州波士顿：Addison-Wesley Longman Publishing Co.，Inc，Boston，MA，USA·Zbl 0721.68056号 [9] Storne RKP（1997）差分进化-一种简单有效的启发式算法，用于连续空间上的全局优化。J Glob选择11:341-359·Zbl 0888.90135号 [10] Kennedy J，Eberhart R（1995），粒子群优化。1995年IEEE神经网络国际会议论文集（澳大利亚珀斯），IEEE服务中心，皮斯卡塔韦，第1942-1948页 [11] Audet，C。；科科拉拉斯，M。；Le Digabel，S。；Talgorn，B.，网格自适应直接搜索中管理代理集合的基于顺序的错误，J Glob Optim，70，3，645-675（2018）·Zbl 1394.90525号 ·doi:10.1007/s10898-017-0574-1 [12] 康恩，A。；Le Digabel，S.，《二次模型与网格自适应直接搜索在约束黑箱优化中的应用》，Optim Methods Softw，28，1，139-158（2013）·Zbl 1270.90073 ·doi:10.1080/10556788.2011.623162。 [13] Audet，C。；Tribes，C.，基于网格的不等式约束优化Nelder-Mead算法，计算优化应用，71，2，331-352（2018）·Zbl 1411.90229号 ·doi:10.137/18M1175872 [14] 鲁宾斯坦，RY；Kroese，DP，交叉熵方法：组合优化、蒙特卡洛模拟和机器学习的统一方法（信息科学和统计），300（2004），柏林-海德堡，美国纽约：施普林格，柏林-海德堡，美国纽约·Zbl 1140.90005号 ·doi:10.1007/978-1-4757-4321-0 [15] Rubinstein，RY，《具有罕见事件的计算机模拟模型优化》，《欧洲操作研究杂志》，99，89-112（1997）·Zbl 0923.90051号 ·doi:10.1016/S0377-2217（96）00385-2 [16] Kroese DP，Porotsky S，Rubinstein RY（2006）连续多极值优化的交叉熵方法。Metodol计算机应用概率8:383-407·Zbl 1107.65049号 [17] Audet，C。；Dennis，J.Jr，《无导数非线性规划的渐进障碍》，SIAM J Optim，20，1，445-472（2009）·Zbl 1187.90266号 ·doi:10.1137/070692662 [18] Audet，C。；Le Digabel，S。；Tribes，C.，用于黑箱优化的网格动态缩放自适应直接搜索算法，Optim Eng，17，2，333-358（2016）·Zbl 1364.90360号 ·doi:10.1007/s11081-015-9283-0 [19] 弗莱彻，R。；Leyffer，S.，《无惩罚函数的非线性规划》，数学程序系列a，91，239-269（2002）·Zbl 1049.90088号 ·doi:10.1007/s101070100244 [20] Jahn，J.，《非线性优化理论导论》（1994），柏林：施普林格出版社，柏林·Zbl 1280.65053号 ·doi:10.1504/IJMMNO.2013.055204 [21] Kullback，S。；Leibler，R.，《信息与充分性》，《数学统计年鉴》，22，79-86（1951）·Zbl 0042.38403号 ·doi:10.1214/aoms/1177729694 [22] Lopez-Garcia，P。；Onieva，E。；E.大阪。；Masegosa，AD；Perallos，A.，Gace:基于遗传算法和交叉熵方法混合的元神经网络用于连续优化，专家系统应用，55，508-519（2016）·doi:10.1016/j.eswa.2016.02.034 [23] MiarNaeimi，F。；Azizyan，G。；Rashki，M.，《多级交叉熵优化器（mceo）：工程问题的进化优化算法》，工程计算，34，4，719-739（2018）·doi:10.1007/s00366-017-0569-z [24] Subathra，MSP；塞尔文，东南部；TAA Victoire；克里斯蒂娜，AH；Amato，U.，《用交叉熵方法和序列二次规划混合求解经济负荷分配问题》，IEEE Syst J，9，3，1031-1044（2015）·doi:10.1109/JSYST.2013.297471 [25] 莫雷，J。；Wild，S.，《无导数优化算法基准测试》，SIAM J Optim，20，1，172-191（2009）·Zbl 1187.90319号 ·doi:10.1137/080724083 [26] Le Digabel S（2011）算法909:NOMAD:使用MADS算法的非线性优化。ACM跨数学软件37（4）44:1-44:15。doi:10.145/1916461.1916468·Zbl 1365.65172号 [27] 布兰克，J。；Deb，K.，Pymoo:python中的多目标优化，IEEE Access，8，89497-89509（2020）·doi:10.1109/ACCESS.2020.2990567 [28] Price K，Storn RM，Lampinen JA（2006）《差异进化：全局优化的实用方法》。施普林格科技与商业媒体·Zbl 1186.90004号 [29] Giunta A（1997）《使用实验设计理论和响应面建模方法的飞机多学科优化》。弗吉尼亚理工大学博士论文，德克萨斯州休斯顿，1997年；可作为弗吉尼亚理工大学航空航天与海洋工程系技术代表MAD 97-05-01获取，地址：215 Randolph Hall，Blacksburg，Virginia 24061 [30] 马托特，L。；Rabideau，A。；Craig，J.，使用分析元素法流量模型进行泵和处理优化，Adv Water Resour，29，5，760-775（2006）·doi:10.1016/j.advwatres.2005.07.009 [31] 古尔德，N。；Orban，D。；Toint，P.，CUTEr（和SifDec）：约束和非约束测试环境，重温，ACM Trans Math Softw，29，4，373-394（2003）·Zbl 1068.90526号 ·数字对象标识代码：10.1145/962437.96243439 [32] 莫雷，J。；Garbow，B。；Hillstrom，KE，《测试无约束优化软件》，ACM Trans Math Softw，7，1，17-41（1981）·Zbl 0454.65049号 ·数字对象标识代码：10.1145/355934.355936 [33] Hedar AR（2017）《全局优化测试问题》。http://www-optima.amp.i.kyoto-u.ac.jp/member/student/hedar/hedar_files/TestGO.htm。（上次访问时间：2017-10-20） [34] Booker A、Cramer E、Frank P、Gablonsky J、Dennis Jr J（2007）《Movars:通过自适应响应曲面进行多学科优化》。AIAA论文2007-1927。http://pdf.aiaa.org/preview/CDReadyMSDM07_1473/PV2007_1927.pdf [35] 陈，X。；Wang，N.，用基于DNA的混合遗传算法优化短时汽油混合调度问题，化学工程过程，49，10，1076-1083（2010）·doi:10.1016/j.cep.2010 [36] Lukšan L，Vlček J（2000）非光滑无约束和线性约束优化的测试问题。技术代表V-798，ICS AS CR。http://www.cs.cas.cz/ics/reports/v798-00.ps [37] Audet，C。；小J·丹尼斯；Le Digabel，S.，网格自适应直接搜索算法的并行空间分解，SIAM J Optim，19，3，1150-1170（2008）·Zbl 1180.90363号 ·doi:10.1137/070707518 [38] Audet，C。；Le Digabel，S。；Tribes，C.，颗粒和离散变量的网格自适应直接搜索算法，SIAM J Optim，29，2，1164-1189（2019）·Zbl 1364.90360号 ·doi:10.1007/s11081-015-9283-0 [39] Hock W，Schittkowski K（1981）《非线性编程代码的测试示例》，《经济学和数学系统讲稿》第187卷。施普林格，德国柏林·Zbl 0452.90038号 [40] McKinnon，K.，Nelder-Mead单纯形法对非平稳点的收敛性，SIAM J Optim，9，1148-158（1998）·Zbl 0962.65049号 ·doi:10.1137/S1052623496303482 [41] Mezura Montes E，Coello C（2005）《进化算法在工程优化中的实用不可行解》。《第四届墨西哥人工智能进步国际会议论文集》（柏林，海德堡），MICAI'05，斯普林格·弗拉格，第652-662页。doi:10.1007/1157942766 [42] 北山，S。；荒川，M。；Yamazaki，K.，使用径向基函数网络进行工程优化的顺序近似优化，Optim Eng，12，4，535-557（2011）·Zbl 1284.65077号 ·doi:10.1007/s11081-010-9118-y [43] Pigache，F。；梅辛，F。；Nogarede，B.，《压电变压器的优化设计：基于分析模型和确定性全局优化的理性方法》，IEEE Trans Ultrason Ferroelectror Freq Control，54，7，1293-1302（2007）·doi:10.1109/TUFFC.2007.390 [44] Mladenović，N。；彼得罗维奇，J。；科瓦切维奇-Vujćić，V。；乔安加洛维奇，M.，通过禁忌搜索和可变邻域搜索解决扩频雷达多相码设计问题，欧洲运筹学杂志，151,2389-399（2003）·Zbl 1053.90055号 ·doi:10.1016/S0377-2217（02）00833-0 [45] Jamil，M。；Yang，X-S，全球优化问题基准函数的文献综述，国际数学模型数值优化，4，2，150-194（2013）·Zbl 1280.65053号 [46] 罗德里格斯，J。；雷诺，J。；Watson，L.，序列响应面逼近和优化的信赖域增广拉格朗日方法，机械设计杂志，120，1，58-66（1998）·数字对象标识代码：10.1115/1.2826677 [47] 陶，J。；Wang，N.，基于DNA双螺旋的混合遗传算法在汽油调合配方优化问题中的应用，化学工程技术，31，3，440-451（2008）·doi:10.1002/ceat.200700322 [48] 王凯。；Wang，N.，用于动态系统参数估计的新型RNA遗传算法，化学工程研究与设计，88，11，1485-1493（2010）·doi:10.1016/j.cherd.2010.03.005 此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。