×

基于高斯过程函数预测的有向粒子群优化算法。 (英语) Zbl 1487.90648号

摘要:粒子群优化(PSO)是一种迭代搜索方法,它将一组候选解围绕搜索空间移动到具有随机步长的已知全局和局部解。粒子群优化(PSO)经常在实际应用中加速优化,因为在实际应用过程中,梯度不可用,函数求值昂贵。然而,传统的粒子群优化算法忽略了从单个粒子的观测中可能获得的目标函数的潜在知识。所以,我们借鉴了贝叶斯优化的概念,并引入了目标函数的随机代理模型。也就是说,我们将高斯过程拟合到过去对目标函数的评估中,预测其形状,然后根据它调整粒子运动。我们的计算实验表明,粒子群优化算法(即SPSO2011)的基线实现优于其他算法。此外,与最先进的代理辅助进化算法相比,我们在几个流行的基准函数上实现了显著的性能改进。总的来说,我们发现我们的算法获得了探索性和利用性行为所需的特性。

理学硕士:

90 C59 数学规划中的近似方法和启发式
90 C90 数学规划的应用
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] 阿克曼,E.R。;德维利尔斯,J.P。;Cilliers,P.,《使用高斯过程的非线性动力学系统建模:预测南非上空电离层总电子含量》,《地球物理研究杂志》,116,A10(2011)
[2] Ackley,D.,基因爬山的连接主义机器(1987),Springer科学与商业媒体:Springer科技与商业媒体马萨诸塞州诺威尔
[3] 巴曼,D。;哈斯纳特,A。;Sarkar,S。;Murshidanad,M.A.R.,使用高斯粒子群优化(CIQ-GPSO)进行彩色图像量化,2016年国际发明计算技术会议(ICICT),1-4(2016),IEEE
[4] Bird,S。;Li,X.,《通过使用回归的适应度近似改进粒子群的局部收敛性》,(Hiot,L.M.;Ong,Y.S.;Tenne,Y.;Goh,C.-K.,《昂贵优化问题中的计算智能》,《进化学习与优化》,2010年第2期,施普林格出版社,柏林,海德堡),265-293·Zbl 1187.90020号
[5] Bonyadi,M.R。;Michalewicz,Z.,单目标连续空间问题的粒子群优化:综述,进化计算,25,1,1-54(2017)
[6] 布拉顿,D。;Kennedy,J.,《定义粒子群优化标准》,2007年IEEE群智能研讨会,120-127(2007),IEEE
[7] Buche,D。;北卡罗来纳州施劳多夫。;Koumoutsakos,P.,用高斯过程适应度函数模型加速进化算法,IEEE系统、人与控制论汇刊,C部分(应用与评论),35,2,183-194(2005)
[8] 伯德·R·H。;卢,P。;诺西达尔,J。;Zhu,C.,边界约束优化的有限内存算法,SIAM科学计算杂志,16,5,1190-1208(1995)·Zbl 0836.65080号
[9] 陈,Z。;Yu,L.,基于PSO的贝叶斯多样本目标函数结构损伤检测新算法,结构工程与力学,63,6,825-835(2017)
[10] 艾默里奇,M.T。;Giannakoglou,K.C。;Naujoks,B.,高斯随机场元模型辅助的单目标和多目标进化优化,IEEE进化计算汇刊,10,4,421-439(2006)
[11] Etgar,R。;Gelbard,R。;Cohen,Y.,《研发长期流程优化版本发布日期》,《欧洲运筹学杂志》,259,2,642-653(2017)·Zbl 1394.90270号
[12] 风扇,S.-K.S。;Zahara,E.,无约束优化的混合单纯形搜索和粒子群优化,《欧洲运筹学杂志》,181,2527-548(2007)·Zbl 1121.90116号
[13] 高,H。;李毅。;Kabalyants,P。;Xu,H。;Martínez-Béjar,R.,一种新的混合PSO-k-means聚类算法,使用高斯分布估计方法和lévy飞行,IEEE Access,8122848-122863(2020)
[14] (Gentle,J.E.;Härdle,W.K.;Mori,Y.,《计算统计学手册:计算统计学的概念和方法》,Springer Handbooks of computational statistics(2012),Springer:Springer Berlin,Heidelberg)·Zbl 1243.62001
[15] 高尔,T。;哈夫特卡,R.T。;害羞,W。;Queipo,N.V.,替代物集合,结构和多学科优化,33,3199-216(2007)
[16] González,J.、Dai,Z.、Hennig,P.和Lawrence,N.D.(2015年)。通过局部惩罚进行批量贝叶斯优化。http://arxiv.org/pdf/1505.08052v4。
[17] Griewank,A.O.,《全局优化的广义下降法》,《优化理论与应用杂志》,34,1,11-39(1981)·Zbl 0431.49036号
[18] Z.Hong。;Dai,W。;卢,H。;Yang,C.,具有保证服务时间和排放约束的绿色产品供应链的优化配置,《欧洲运筹学杂志》,266,2,663-677(2018)·Zbl 1403.90288号
[19] 胡斯,H.H。;Stützle,T.,《随机局部搜索:基础与应用》(2005),摩根考夫曼出版社:摩根考夫曼出版社,加利福尼亚州旧金山·Zbl 1126.68032号
[20] 伊克巴尔,M。;de Oca,M.A.M.,《分布估计粒子群优化算法、蚁群优化和群智能》。蚁群优化和群体智能,计算机科学讲义,4150,72-83(2006),施普林格:施普林格柏林,海德堡
[21] 江,M。;罗永平。;Yang,S.Y.,标准粒子群优化算法的随机收敛分析和参数选择,《信息处理快报》,102,1,8-16(2007)·Zbl 1184.68621号
[22] Kang,J。;Jin,B。;段,X。;商,X。;LI,W.,基于贝叶斯-PSO算法的微电网优化运行,电力系统保护与控制,46,12,33-41(2018)
[23] 肯尼迪,J。;Eberhart,R.,粒子群优化,ICNN’95会议记录-神经网络国际会议,1942-1948(1995),IEEE
[24] Krohling,R.A.,高斯群:一种新的粒子群优化算法,IEEE控制论和智能系统会议,2004,1372-376(2004),IEEE
[25] 拉斯卡里,E.C。;帕索普洛斯,K.E。;Vrahatis,M.N.,整数规划的粒子群优化,2002年进化计算大会论文集。cec’02(目录号02th8600),1582-1587(2002),IEEE
[26] 梁,J。;Qu,B。;Suganthan,P。;Hernández-Díaz,A.G.,2013年CEC实时参数优化特别会议的问题定义和评估标准,技术报告(2013),中国郑州大学计算智能实验室和南洋理工大学:郑州大学计算智慧实验室,中国与新加坡南洋理工大学
[27] Lim,D。;Jin,Y。;Ong,Y.-S。;Sendhoff,B.,广义代理辅助进化计算,IEEE进化计算汇刊,14,3,329-355(2009)
[28] 刘,B。;张,Q。;Gielen,G.G.,用于中等规模昂贵优化问题的高斯过程代理模型辅助进化算法,IEEE进化计算汇刊,18,2180-192(2013)
[29] 刘,R。;李,J。;范,J。;Mu,C。;Jiao,L.,基于多群粒子群优化的动态多目标优化协同进化技术,欧洲运筹学杂志,261,31028-1051(2017)·兹比尔1403.90611
[30] 刘,Y。;Mu,C。;寇,W。;Liu,J.,基于改进粒子群优化的多级阈值图像分割,软计算,19,5,1311-1327(2015)
[31] 梅洛,H。;Watada,J.,Gaussian-PSO,基于结构学习的模糊推理训练神经网络,神经计算,172,405-412(2016)
[32] 医学博士帕诺。;Hemker,T。;Fowler,K.R.,《替代物对提高基于模拟问题的粒子群优化效率的适用性》,《工程优化》,44,5,521-535(2012)
[33] Pham,D.T。;Castellani,M.,《基于自然启发人群的连续优化算法的基准和比较》,《软计算》,第18、5、871-903页(2014年)
[34] 波利·R。;肯尼迪,J。;Blackwell,T.,粒子群优化,swarm Intelligence,1,1,33-57(2007)
[35] 拉斯穆森,C.E。;Williams,C.K.I.,《机器学习的高斯过程、自适应计算和机器学习》(2008),麻省理工学院出版社:麻省理学院剑桥出版社。
[36] 拉斯特里金,洛杉矶,极值控制系统,瑙卡,1(1974)·Zbl 0284.49002号
[37] Regis,R.G.,《使用径向基函数进行高维约束昂贵黑盒优化的进化编程》,IEEE进化计算汇刊,18,3,326-347(2014)
[38] Regis,R.G.,带径向基函数替代的粒子群算法用于昂贵的黑盒优化,计算科学杂志,5,1,12-23(2014)
[39] 里奥斯,L.M。;Sahinidis,N.V.,《无导数优化:算法综述和软件实现比较》,《全球优化杂志》,56,3,1247-1293(2013)·Zbl 1272.90116号
[40] Rosenbrock,H.,《自动求函数最大值或最小值的方法》,《计算机杂志》,3,3,175-184(1960)
[41] Sethanan,K。;Neungmatca,W.,甘蔗田间作业机械收获机路径规划的多目标粒子群优化,欧洲运筹学杂志,252,3,969-984(2016)·Zbl 1346.90861号
[42] Snoek,J.、Larochelle,H.和Adams,R.P.(2012)。机器学习算法的实用贝叶斯优化。http://arxiv.org/pdf/1206.2944v2。 ·Zbl 1433.68379号
[43] Sun,C。;Jin,Y。;程,R。;丁,J。;Zeng,J.,高维代价问题的代理辅助协同群优化,IEEE进化计算汇刊,21,4,644-660(2017)
[44] Sun,C。;曾,J。;潘,J。;薛,S。;Jin,Y.,一种新的粒子群优化适应度估计策略,信息科学,221355-370(2013)·Zbl 1293.68254号
[45] Swersky,K.、Snoek,J.和Adams,R.P.(2013)。多任务贝叶斯优化。
[46] Tasgetiren,M.F。;Liang,Y.-C。;塞夫克利,M。;Gencyilmaz,G.,置换flowshop排序问题中最大持续时间和总流动时间最小化的粒子群优化算法,《欧洲运筹学杂志》,177,3,1930-1947(2007)·兹比尔1110.900044
[47] 田博士。;Shi,Z.,MPSO:改进的粒子群优化及其应用,群与进化计算,41,49-68(2018)
[48] 范登伯格,F。;Engelbrecht,A.P.,《一种新的局部收敛粒子群优化器》,IEEE系统、人与控制论会议论文集,3(2002)
[49] 南卡罗来纳州瓦尔马。;Murthy,K.L。;SriChandan,K.,用于联合经济排放调度的高斯粒子群优化,2013年可持续性节能技术国际会议,1336-1340(2013),IEEE
[50] Wang,H。;Jin,Y。;Doherty,J.,基于委员会的主动学习,用于昂贵问题的代理辅助粒子群优化,IEEE控制论汇刊,47,9,2664-2677(2017)
[51] Yin,P.-Y。;手套,F。;拉古纳,M。;Zhu,J.-X.,网络群算法-使用自适应记忆策略改进粒子群优化,《欧洲运筹学杂志》,201,2,377-389(2010)·Zbl 1175.90433号
[52] Yu,H。;Tan,Y。;曾,J。;Sun,C。;Jin,Y.,《代理辅助分层粒子群优化》,《信息科学》,454,59-72(2018)
[53] Yu,S。;郑S。;高,S。;Yang,J.,《煤炭开采节能减排投资的多目标决策模型》,《欧洲运筹学杂志》,260,1,335-347(2017)·Zbl 1402.90173号
[54] Zambrano-Bigiarini,M。;Clerc,M。;Rojas,R.,《2011年CEC-2013标准粒子群优化:未来PSO改进的基线》,2013年IEEE进化计算大会,2337-2344(2013),IEEE
[55] 张,L。;Tang,Y。;华,C。;Guan,X.,基于贝叶斯技术的具有自适应惯性权重的新型粒子群优化算法,应用软计算,28,138-149(2015)
[56] Zouache,D。;穆萨维,A。;Abdelaziz,F.B.,多目标离散优化的协同群智能算法及其在背包问题中的应用,《欧洲运筹学杂志》,264,1,74-88(2018)·Zbl 1380.90294号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。