×

随机漂移粒子群优化算法:收敛性分析和参数选择。 (英语) 兹比尔1343.68224

摘要:随机漂移粒子群优化(RDPSO)算法是一种PSO变体,其灵感来源于置于外电场中的金属导体中的自由电子模型。本文在对RDPSO算法进行初步研究的基础上,对该算法进行了系统的分析和实证研究。首先,介绍了RDPSO算法的动机,并详细描述了粒子速度方程的设计。其次,对算法进行了全面的分析,以深入了解RDPSO算法的工作原理。它涉及RDPSO算法中单个粒子随机动力学行为的理论分析和模拟。通过分析粒子之间的相互作用,详细研究了算法本身的搜索行为。然后,通过将不同的随机速度分量与不同的邻域拓扑相结合,提出了RDPSO算法的一些变体。最后,使用CEC2005基准套件中的一组基准函数对RDPSO算法进行了实证研究。在对粒子行为进行理论分析的基础上,采用了两种控制算法参数的方法,然后对如何选择参数值进行了实验分析,以获得RDPSO算法及其变体在实际应用中的令人满意的总体性能。进一步比较了RDPSO算法和其他PSO变体的性能,以证明RDPSO的有效性。

MSC公司:

68T20型 人工智能背景下的问题解决(启发式、搜索策略等)
90 C59 数学规划中的近似方法和启发式
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] Bergstra,J.和Bengio,Y.(2012年)。超参数优化的随机搜索。机器学习研究杂志,12,281-305·Zbl 1283.68282号
[2] Bonyadi,M.R.、Michalewicz,Z.和Li,X.(2014)。分析了粒子群优化算法的速度更新规则。启发式杂志,20(4),417-452·doi:10.1007/s10732-014-9245-2
[3] Bratton,D.和Kennedy,J.(2007年)。定义粒子群优化的标准。IEEE群体智能研讨会论文集,(第120-127页)。纽约:IEEE出版社。
[4] Bull,A.(2011年)。高效全局优化算法的收敛速度。机器学习研究杂志,12,2879-2904·Zbl 1280.90094号
[5] Cleghorn,W.C.和Engelbrecht,A.P.(2014)。粒子群收敛:标准化分析和拓扑影响。《计算机科学讲义》,8867,第134-145页。
[6] Clerc,M.(1999)。群和皇后:走向确定性和自适应粒子群优化。在进化计算会议记录中。(第1951-1957页)。纽约:IEEE出版社。
[7] Clerc,M.和Kennedy,J.(2002年)。粒子群在多维复杂空间中的爆炸、稳定性和收敛性。IEEE进化计算汇刊,6(2),58-73·doi:10.1109/4235.985692
[8] Courant,R.(1989)。微积分和分析导论。柏林:斯普林格·Zbl 0683.26002号 ·doi:10.1007/978-1-4613-8955-2
[9] Day,R.W.和Quinn,G.P.(1989)。生态方差分析后的处理比较。生态专著,59433-463·doi:10.2307/1943075
[10] Eberhart,R.C.和Kennedy,J.(1995)。使用粒子群理论的新优化器。第六届国际微机械与人类科学研讨会论文集(第39-43页)。纽约:IEEE出版社·Zbl 1093.68105号
[11] Eberhart,R.C.和Shi,Y.(2000)。比较粒子群优化中的惯性权重和收缩因子。2000年进化计算大会会议记录(CEC'00),第1卷。(第84-88页)。纽约:IEEE出版社·Zbl 0502.90070
[12] Emara,H.M.和Fattah,H.A.(2004)。具有稳定性分析的连续群优化技术。《美国控制会议记录》(第2811-2817页)。纽约:IEEE出版社。
[13] Engelbrecht,A.P.(2013年)。粒子群优化:全局最优还是局部最优?巴西第十一届计算智能大会会议记录(第124-135页)。纽约:IEEE出版社。
[14] Escalante,H.J.、Montes,M.和Sucar,L.E.(2009年)。粒子群模型选择。机器学习研究杂志,10405-440。
[15] Fortin,F.-A.、De Rainville,F.-M.、Gardner,M.-A.、Parizeau,M.和Gagne,C.(2012)。DEAP:进化算法变得简单。机器学习研究杂志,13,2171-2175·兹比尔06276179
[16] Fournier,H.和Teytaud,O.(2011年)。使用VC-维度和符号模式的基于比较的进化策略的下限。《算法》,59(3),387-408·Zbl 1211.68505号 ·doi:10.1007/s00453-010-9391-3
[17] Gavi,V.和Passno,K.M.(2003年)。社会觅食群的稳定性分析。IEEE系统、人与控制论汇刊,34(1),539-557。
[18] Henning,P.和Keifel,M.(2013)。准纽顿方法:一个新的方向。机器学习研究杂志,14843-865·Zbl 1320.62049号
[19] Jiang,M.、Luo,Y.P.和Yang,S.Y.(2007)。标准粒子群优化算法的随机收敛性分析和参数选择。信息处理信件,102,8-16·Zbl 1184.68621号 ·doi:10.1016/j.ipl.2006.10.005
[20] Kadirkamanathan,V.、Selvarajah,K.和Fleming,P.J.(2006)。粒子群优化算法中粒子动力学的稳定性分析。IEEE进化计算汇刊,10(3),245-255·doi:10.1109/TEVC.2005.857077
[21] Kennedy,J.(1998)。粒子的行为。《第七届进化规划年会论文集》(第581-589页)。柏林:斯普林格·Zbl 1237.34091号
[22] Kennedy,J.(1999)。小世界和百万:邻域拓扑对粒子群性能的影响。在《国会议事录》中,关于进化计算(第1931-1938页)。纽约:IEEE出版社。
[23] Kennedy,J.(2002)。定型:通过聚类分析改进粒子群性能。《计算智能国会议事录》(第1671-1676页)。纽约:IEEE出版社·Zbl 1326.68271号
[24] Kennedy,J.(2003)。赤骨颗粒群。《IEEE群体智能研讨会论文集》(第80-87页)。纽约:IEEE出版社。
[25] Kennedy,J.(2004)。粒子群中的概率和动力学。《进化计算国会议事录》(第340-347页)。纽约:IEEE出版社。
[26] Kennedy,J.(2006)。寻找基本粒子群。IEEE计算智能世界大会论文集(第1694-1701页)。纽约:IEEE出版社。
[27] Kennedy,J.和Eberhart,R.C.(1995年)。粒子群优化。《IEEE神经网络国际会议论文集》(第1942-1948页)。纽约:IEEE出版社。
[28] Kennedy,J.和Mendes,R.(2002)。种群结构和粒子群性能。2002年进化计算大会会议记录(第1671-1676页)。纽约:IEEE出版社。
[29] Kittel,C.和Kroemer,H.(1980)。热物理(第二版)。旧金山:W.H.Freeman。
[30] Krohling,R.A.(2004)。高斯群:一种新的粒子群优化算法。《IEEE控制论和智能系统会议论文集》(第372-376页)。纽约:IEEE出版社。
[31] Lane,J.、Engelbrecht,A.和Gain,J.(2008)。具有空间意义邻居的粒子群优化算法。2008年IEEE群体智能研讨会论文集,(第1-8页)。纽约:IEEE出版社·兹比尔1280.90094
[32] Li,X.(2004)。在多峰函数优化的粒子群优化器中使用物种自适应选择邻域最佳。2004年遗传和进化计算会议论文集,(第105-116页)。
[33] Li,X.(2010)。无小生境参数的小生境:使用环形拓扑的粒子群优化。IEEE进化计算汇刊,14(1),150-169·doi:10.1109/TEVC.2009.2026270
[34] Liang,J.J.和Suganthan,P.N.(2005)。动态多温粒子群优化算法(DMS-PSO)。在IEEE群体智能研讨会论文集中,(第124-129页)。纽约:IEEE出版社。
[35] Liang,J.J.、Qin,A.K.、Suganthan,P.N.和Baskar,S.(2006)。用于多峰函数全局优化的综合学习粒子群优化算法。IEEE进化计算汇刊,10(3),281-295·doi:10.1109/TEVC.2005.857610
[36] Lu,Y.,Wang,S.,Li,S.和Zhou,C.(2011)。用于高维数据聚类中可变权重的粒子群优化算法。机器学习1月,82(1),43-70·doi:10.1007/s10994-009-5154-2
[37] Mendes,R.、Kennedy,J.和Neves,J.(2004)。完全知情的粒子群:更简单,也许更好。IEEE进化计算汇刊,8(3),204-210·doi:10.1109/TEVC.2004.826074
[38] Omar,M.A.(1993年)。固体物理学基础:原理与应用。马萨诸塞州雷丁:Addison-Wesley。
[39] Ozcan,E.和Mohan,C.K.(1999)。粒子泳优化:冲浪。1999年IEEE进化计算大会会议记录(第1939-1944页)。纽约:IEEE出版社·Zbl 1184.68621号
[40] Parrott,D.和Li,X.(2006)。使用物种形成的粒子群模型定位和跟踪多个动态最优解。IEEE进化计算汇刊,10(4),440-458·doi:10.1109/TEVC.2005.859468
[41] Pelikan,M.(2012)。概率建模遗传算法。《遗传与进化计算会议论文集》,(第777-8004页)·Zbl 1211.68505号
[42] Poli,R.(2007)。分析有关粒子群优化应用程序的出版物。技术报告CSM-469,英国埃塞克斯大学计算机科学系。
[43] Poli,R.和Langdon,W.B.(2007年)。裸核粒子群优化算法的马尔可夫链模型。《年度遗传和进化计算会议论文集》(第142-149页)。
[44] Poli,R.(2008)。分析有关粒子群优化应用的出版物。《人工进化与应用杂志》,2008,1-10。
[45] Poli,R.(2009)。停滞期间粒子群优化算法的采样分布的平均值和方差。IEEE进化计算汇刊,13(4),712-721·doi:10.1109/TEVC.2008.2011744
[46] Richer,T.J.和Blackwell,T.M.(2006)。利维粒子群。《进化计算国会议事录》(第808-815页)。纽约:IEEE出版社。
[47] Secrest,B.和Lamont,G.(2003年)。可视化粒子群优化——高斯粒子群优化。IEEE群体智能研讨会论文集(第198-204页)。纽约:IEEE出版社。
[48] Shi,Y.和Eberhart,R.C.(1998年a)。一种改进的粒子群优化算法。《IEEE进化计算国际会议论文集》(第69-73页)。纽约:IEEE出版社·Zbl 1156.90463号
[49] Shi,Y.和Eberhart,R.C.(1998年b)。粒子群优化中的参数选择。第七届进化编程会议论文集VII(EP’98),(第591-600页)。柏林:斯普林格。
[50] Shi,Y.和Eberhart,R.C.(1999)。粒子群优化的实证研究。《1999年进化计算大会会议记录》(CEC’99),第3卷,(第1945-1950页)。纽约:IEEE出版社。
[51] Shiryayev,A.N.(1984)。概率。纽约:斯普林格·Zbl 0536.60001号 ·doi:10.1007/9781-4899-0018-0
[52] Solis,F.J.和Wets,R.J.-B.(1981年)。通过随机搜索技术最小化。运筹学数学,6(1),19-30·Zbl 0502.90070 ·doi:10.1287/门.6.1.19
[53] Sra,S.、Nowozin,S.和Wright,S.J.(2011年)。优化机器学习。剑桥:麻省理工学院出版社。
[54] Suganthan,P.N.(1999)。带邻域算子的粒子温暖优化器。在《国会关于进化计算的议事录》(1958-1962页)中。纽约:IEEE出版社。
[55] Suganthan,P.N.、Hansen,N.、Liang,J.J.、Deb,K.、Chen,Y.-P.、Auger,A.和Tiwari,S.(2005)。CEC 2005实际参数优化专题会议的问题定义和评估标准。技术报告,新加坡南洋理工大学,2005年5月;KanGAL报告#2005005,印度坎普尔IIT。
[56] Sun,Q.、Pfahringer,B.和Mayo,M.(2013)。建立一个设计完整模型选择和优化系统的框架。《第11届多分类器系统国际研讨会论文集》(MCS’13),(第259-270页),柏林:施普林格出版社。
[57] Sun,J.、Fang,W.、Wu,X.、Palade,V.和Xu,W.(2012b)。量子粒子群优化:单个粒子行为分析和参数选择。进化计算,20(3),349-393·doi:10.1162/EVCO__00049
[58] Sun,J.、Palade,V.、Cai,Y.、Fang,W.和Wu,X.(2014a)。生物化学系统辨识的随机漂移粒子群优化方法。BMC生物信息学,15(Suppl 6),S1·doi:10.1186/1471-2105-15-S6-S1
[59] Sun,J.、Palade,V.、Wu,X.和Fang,W.(2014b)。随机漂移粒子群优化学习的隐马尔可夫模型多序列比对。IEEE/ACM计算生物学和生物信息学汇刊,11(1),243-257·doi:10.1109/TCBB.2013.148
[60] Sun,J.、Zhao,J.,Wu,X.、Cai,Y.和Xu,W.(2010)。基于漂移粒子群优化方法的混沌系统参数估计。《物理快报A》,374(28),2816-2822·Zbl 1237.34091号 ·doi:10.1016/j.physleta.2010.04.071
[61] Trelea,I.C.(2003)。粒子群优化算法:收敛分析和参数选择。《信息处理快报》,85(6),317-325·兹比尔1156.90463 ·doi:10.1016/S0020-0190(02)00447-7
[62] 范登伯格(2002)。粒子群优化算法分析。南非比勒陀利亚大学博士论文。
[63] van den Bergh,F.和Engelbrecht,A.P.(2004年)。粒子群优化的一种协作方法。IEEE进化计算汇刊,8(3),225-239·doi:10.1109/TEVC.2004.826069
[64] Van den Bergh,F.和Engelbrecht,A.P.(2006)。粒子群优化粒子轨迹的研究。信息科学,176(8),937-971·Zbl 1093.68105号 ·doi:10.1016/j.ins.2005.02.003
[65] Van den Bergh,F.和Engelbrecht,A.P.(2010年)。粒子群优化算法的收敛性证明。《信息基础》,105(4),341-374·Zbl 1211.90320号
[66] Veeramachaneni,K.、Wagner,M.和O'Reilly,U.-M.(2012年)。Frank Neumann:使用粒子群优化优化大型风电场的能源输出和布局成本。《IEEE进化计算大会论文集》(第1-7页)。纽约:IEEE出版社。
[67] Zhang,Y.,Gong,D.,Sun,X.,&Geng,N.(2014)。自适应裸粒子群优化算法及其收敛性分析。《软计算》,18(7),1337-1352·Zbl 1326.68271号 ·doi:10.1007/s00500-013-1147-y
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。