×

采用基于粒子群优化和扩展卡尔曼滤波的智能混合稳定学习算法将ANFIS训练为一个辨识器。 (英语) Zbl 1182.68184号

摘要:本文提出了一种新的具有稳定学习律的混合学习算法,用于自适应网络模糊推理系统(ANFIS)作为系统标识符。该混合学习算法基于粒子群优化算法(PSO)训练前件,基于扩展卡尔曼滤波器(EKF)训练结论部分。利用李亚普诺夫稳定性理论研究了该算法的稳定性。将所提方法、用于训练前件的PSO算法和用于训练结论部分的递归最小二乘(RLS)或EKF算法与其他经典方法(如梯度下降、弹性传播、快速传播、,提供了用于训练前件的Levenberg-Marquardt算法和用于训练结论部分的RLS算法。此外,还表明,应用PSO这一强大的优化器,在ANFIS系统中模糊规则的前件上对隶属函数的参数进行优化训练,是一种稳定的方法,可以得到具有最佳训练模型的标识符。得到了稳定性约束条件,并给出了不同的仿真结果来验证结果。同时,分析了用于ANFIS训练的Levenberg-Marquardt算法的稳定性。

MSC公司:

68T05型 人工智能中的学习和自适应系统

软件:

ANFIS公司
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] S.Akbar,R.Parra-Loera,最优自校正模糊控制器,in:机床在线SPIE会议,机器人传感器和控制,1995年。;S.Akbar,R.Parra-Loera,最优自校正模糊控制器,收录于:SPIE Conf.on Machine Tool in-Line,and Robot Sensors and Controls,1995年。
[2] M.Sh.Aliyari,M.Teshnehlab,A.K.Sedigh,ANFIS结构中的一种新型训练算法,载于:美国控制会议,2006年。;M.Sh.Aliyari,M.Teshnehlab,A.K.Sedigh,ANFIS结构中的新型训练算法,载于:美国控制会议,2006年。
[3] M.Sh.Aliyari,M.Teshnehlab,A.K.Sedigh,使用自适应加权PSO调整ANFIS参数的新型混合学习算法,收录于:IEEE Internat。模糊系统会议,2007。;M.Sh.Aliyari,M.Teshnehlab,A.K.Sedigh,使用自适应加权PSO调整ANFIS参数的新型混合学习算法,收录于:IEEE Internat。模糊系统会议,2007年。
[4] M.Sh.Aliyari,M.Teshnehlab,A.K.Sedigh,使用ANFIS和智能混合稳定学习算法方法进行识别,神经计算。申请。,接受出版,doi:10.1007/s00521-007-0168-9;M.Sh.Aliyari,M.Teshnehlab,A.K.Sedigh,使用ANFIS和智能混合稳定学习算法方法进行识别,神经计算。申请。,接受出版,doi:10.1007/s00521-007-0168-9·Zbl 1182.68184号
[5] 安德森,B。;Moore,J.,《最佳过滤》(1979),普伦蒂斯·霍尔:普伦蒂斯霍尔·恩格尔伍德克利夫斯,新泽西州·Zbl 0688.93058号
[6] P.J.Angeline,《使用选择改进粒子群优化》,摘自:Proc。IEEE会议。《进化计算》,1998年。;P.J.Angeline,《使用选择改进粒子群优化》,摘自:Proc。IEEE会议。进化计算,1998年。
[7] Atkinson,K.,《数值分析导论》(1989),威利出版社:威利纽约·Zbl 0718.65001号
[8] Bastian,A.,利用遗传编程识别模糊模型,模糊集与系统,113,335-350(2000)·Zbl 1147.93356号
[9] Chaabene,M。;Ammar,M.B.,用卡尔曼滤波器预测太阳能系统辐照度和温度的神经模糊动态模型,可再生能源,33,7,1435-1443(2008)
[10] 查特吉,A。;Watanabe,K.,用于建模机器人操作器的优化Takagi-Sugeno型神经模糊系统,神经计算。申请。,15, 1, 55-61 (2006)
[11] 陈,G。;谢奇。;Shieh,L.S.,模糊卡尔曼滤波,J.Inform。科学。,197-209 (1998) ·Zbl 0930.93078号
[12] M.S.Chen,《模糊隶属函数参数调整中学习方法的比较研究》,载于:IEEE系统人与控制论会议,1999年。;M.S.Chen,《模糊隶属函数参数调整中学习方法的比较研究》,载于:IEEE系统人与控制论会议,1999年。
[13] 陈,Y。;杨,B。;亚伯拉罕。;Peng,L.,使用进化算法自动设计分层Takagi-Sugeno型模糊系统,IEEE Trans。模糊系统,15,3(2007)
[14] Ciuprina,G。;艾昂·D·。;Munteanu,I.,《智能粒子群优化在电磁领域的应用》,IEEE Trans。马格纳。,38, 2, 1037-1040 (2002)
[15] M.Clerc,The Swarm and The Queen:走向确定性和自适应粒子群优化,摘自:Proc。IEEE国际。进化计算会议,1999年。;M.Clerc,The Swarm and The Queen:走向确定性和自适应粒子群优化,摘自:Proc。IEEE国际。进化计算会议,1999年。
[16] 科埃罗,C.A.C。;Pulido,G。;Lechuga,M.,用粒子群优化处理多目标,IEEE Trans。进化。计算。,8, 3, 256-279 (2004)
[17] B.Demaya,R.Palm,S.Boverie,A.Titli,模糊控制器的多级定性和数值优化,收录于:IEEE国际。模糊系统会议,1995年。;B.Demaya,R.Palm,S.Boverie,A.Titli,模糊控制器的多级定性和数值优化,收录于:IEEE国际。模糊系统会议,1995年。
[18] J.Deskur,R.Muszynski,D.Sarnowski,组合模糊控制器的调整和研究,收录于:国际。电力电子和变速驱动器会议,1998年。;J.Deskur,R.Muszynski,D.Sarnowski,组合模糊控制器的调整和研究,收录于:国际。电力电子和变速驱动器会议,1998年。
[19] R.C.Eberhart,X.Hu,使用粒子群优化进行人体震颤分析,收录于:IEEE大会论文集。进化。计算。,1999.; R.C.Eberhart,X.Hu,使用粒子群优化进行人体震颤分析,收录于:IEEE大会论文集。进化。计算。,1999
[20] R.C.Eberhart,X.Hu,使用动态邻域粒子群优化的多目标优化,in:Proc。IEEE会议。《进化计算》,2002年。;R.C.Eberhart,X.Hu,使用动态邻域粒子群优化的多目标优化,in:Proc。IEEE会议。进化计算,2002年。
[21] R.C.Eberhart,J.Kennedy,使用粒子群理论的新优化器,摘自:Proc。第六国际。交响乐团。《微型机器人类科学》,1995年。;R.C.Eberhart,J.Kennedy,使用粒子群理论的新优化器,摘自:Proc。第六国际。交响乐团。《微型机器人类科学》,1995年。
[22] R.C.Eberhart,Y.Shi,比较粒子群优化中的惯性权重和收缩因子,in:Proc。恭喜。《进化计算》,2000年。;R.C.Eberhart,Y.Shi,比较粒子群优化中的惯性权重和收缩因子,in:Proc。恭喜。进化计算,2000年。
[23] W.Eradus,H.Scholten,A.Udink ten Cate,奶牛发情检测的优化模糊推理系统,in:Internat。交响乐团。《神经模糊系统》,1996年。;W.Eradus,H.Scholten,A.Udink ten Cate,奶牛发情检测的优化模糊推理系统,in:Internat。交响乐团。关于神经模糊系统,1996年。
[24] Feldkamp,洛杉矶。;Prokhorov,D.V。;Feldkamp,T.M.,卡尔曼滤波器训练的递归网络的简单和条件自适应行为,神经网络,16883-689(2003)
[25] Goldberg,D.E.,《搜索优化和机器学习中的遗传算法》(1989),Addison Wesley:Addison Wesley Reading,马萨诸塞州·Zbl 0721.68056号
[26] Heo,J.S。;Lee,K.Y。;Garduno-Ramirez,R.,《使用粒子群优化技术的发电厂多目标控制》,IEEE Trans。能量转换。,21, 2, 552-561 (2006)
[27] Ho,S.L。;Yang,S。;镍、石墨。;Lo,E.W.C。;Wong,H.C.,基于粒子群优化的多目标设计优化方法,IEEE Trans。马格纳。,41, 5, 1756-1759 (2005)
[28] 霍恩,L。;Niven,I.,移动中的平均值,数学。Mag.,58,151-156(1985)·Zbl 0601.26011号
[29] X.Hu,R.C.Eberhart,Y.Shi,用于多目标优化的扩展记忆粒子群,in:Proc。IEEE Swarm Intelligence Symp.公司。,2003.; X.Hu,R.C.Eberhart,Y.Shi,用于多目标优化的扩展记忆粒子群,in:Proc。IEEE Swarm Intelligence Symp.公司。,2003
[30] 伊古尼,Y。;Sakai,H。;Tokumaru,H.,基于扩展卡尔曼滤波器的多层神经网络实时学习算法,IEEE Trans。信号处理。,40, 959-966 (1992)
[31] Jacomet,M。;斯塔尔,A。;Walti,R.,《模糊系统的在线优化》,Inform。科学。,98, 301-313 (1997)
[32] Jang,J.S.R.,ANFIS:基于自适应网络的模糊推理系统,IEEE Trans。Systems Man和Cybernet。,23, 3 (1993)
[33] J.S.R.Jang,ANFIS:自适应网络模糊推理系统,研究报告,1993年。;J.S.R.Jang,ANFIS:基于自适应网络的模糊推理系统,研究报告,1993年。
[34] J.S.R.Jang,ANFIS学习的输入选择,收录于:IEEE Internat。模糊系统会议,1996年。;J.S.R.Jang,ANFIS学习的输入选择,收录于:IEEE Internat。模糊系统会议,1996年。
[35] J.S.R.Jang,E.Mizutani,ANFIS学习的Levenberg-Marquardt方法,在:Proc。北美模糊信息处理协会两年一度的会议,1996年。;J.S.R.Jang、E.Mizutani、Levenberg-Marquardt ANFIS学习方法,摘自:Proc。北美模糊信息处理协会两年一度的会议,1996年。
[36] Jang,J.SR。;Sun,C.-T。;Mlizutani,E.,《神经模糊和软计算:学习和机器智能的计算方法》(Neurofuzzy and Soft Computing:A Computation Approach to Learning and Machine Intelligence)(1996年),普伦蒂斯·霍尔:普伦蒂塞·霍尔恩格尔伍德克利夫斯,新泽西州
[37] Juang,C.F.,通过神经网络和遗传算法处理动态系统的TSK型递归模糊网络,IEEE Trans。模糊系统,10155-170(2002)
[38] Juang,C.-F。;Chung,I.-F.,使用混合进化学习算法的递归模糊网络设计,神经计算,703001-3010(2007)
[39] Juang,C.F。;Lin,C.T.,递归自组织神经模糊推理网络,IEEE Trans。神经网络,10828-845(1999)
[40] 卡迪尔卡马纳桑,V。;塞尔瓦拉贾赫,K。;Fleming,P.J.,粒子群优化器中粒子动力学的稳定性分析,IEEE Trans。进化。计算。,10, 3, 245-255 (2006)
[41] Karakuzu,C.,非线性系统控制中使用粒子群优化的模糊控制器训练,ISA Trans。,47, 229-239 (2008)
[42] J.Kennedy,《粒子的行为》,摘自:Proc。第七届进化计划年会,1998年。;J.Kennedy,《粒子的行为》,摘自:Proc。第七届进化计划年会,1998年。
[43] Kim,W.C。;安,S.C。;Kwon,W.H.,模糊状态空间模型的稳定性分析与镇定,模糊集与系统,71,1,131-142(1995)·Zbl 0851.93041号
[44] 科利亚斯,S。;Anastassiou,D.,用于有效训练人工神经网络的自适应最小二乘算法,IEEE Trans。电路系统,36,1092-1101(1989)
[45] 科瓦切维奇,R。;Zhang,Y.,基于神经模糊模型的焊接熔接状态估计,IEEE控制系统杂志,17,2,30-42(1997)
[46] M.Kumar,D.P.Garg,通过神经网络和遗传算法智能学习模糊逻辑控制器,收录于:Proc。日美交响乐团。关于灵活自动化,2004年。;M.Kumar,D.P.Garg,通过神经网络和遗传算法智能学习模糊逻辑控制器,收录于:Proc。日本-美国Symp。关于灵活自动化,2004年。
[47] Lee,C.H。;Teng,C.C.,使用递归模糊神经网络识别和控制动态系统,IEEE Trans。模糊系统,8,4,349-366(2000)
[48] Leng,G。;McGinnity,T.M。;Prasad,G.,基于遗传算法的自组织模糊神经网络设计,IEEE Trans。模糊系统,14755-766(2006)
[49] Leu,G。;Baratti,R.,一种扩展卡尔曼滤波方法,具有设定其调谐参数的准则;应用于催化反应器,计算。化学。工程,1839-1849(2000)
[50] Lin,C.J。;Chin,C.C.,基于小波的递归模糊神经网络预测和识别,IEEE Trans。Systems Man Cybernet。第二部分网络。,10, 2144-2154 (2004)
[51] 卢,C.H。;Tsai,C.C.,《工业过程中使用递归模糊神经网络的广义预测控制》,《过程控制》,17,83-92(2007)
[52] Mackey,M.C。;Glass,L.,《物理控制系统中的振荡和混沌》,《科学》,197287-289(1977)·Zbl 1383.92036号
[53] Magdalena,L。;Monasterio-Huelin,F.,模糊逻辑控制器,通过其知识库的进化进行学习,Internat。J.近似原因。,16, 335-358 (1997) ·Zbl 0947.93513号
[54] M.Mahfouf,M.-Y.Chen,D.A.Linkens,合金钢多目标优化设计的自适应加权粒子群优化,in:Proc。《自然》中的并行问题解决,2004年。;M.Mahfouf,M.-Y.Chen,D.A.Linkens,合金钢多目标优化设计的自适应加权粒子群优化,in:Proc。《自然》杂志2004年出版的《并行问题解决》。
[55] Mandic,D.P。;Chambers,J.A.,《预测用递归神经网络:学习算法、架构和稳定性》(2001年),威利出版社,威利纽约
[56] F.M.Mascioli,G.M.Varazi,G.Martinelli,神经模糊网络的构造算法,摘自:Proc。第六届IEEE国际。模糊系统会议,1997。;F.M.Mascioli,G.M.Varazi,G.Martinelli,神经模糊网络的构造算法,摘自:Proc。第六届IEEE国际。模糊系统会议,1997年。
[57] 马萨诸塞州马斯托克斯塔斯。;Theocharis,J.B.,动态系统辨识的递归模糊神经模型,IEEE Trans。系统人网络。第二部分网络。,32, 176-190 (2002)
[58] 马蒂亚,F。;Jiménez,A。;Al-Hadithi,B.M。;罗德里格斯-洛萨达,D。;Galán,R.,《模糊卡尔曼滤波器:使用可能性技术的状态估计》,模糊集与系统,157,16,2145-2170(2006)·Zbl 1106.93034号
[59] 门德斯,R。;肯尼迪,J。;Neves,J.,《完全知情的粒子群:更简单,也许更好》,IEEE Trans。进化。计算。,8, 3, 204-210 (2004)
[60] Messerschmidt,L。;Engelbrecht,A.,《使用基于PSO的竞争学习方法学习游戏》,IEEE Trans。进化。计算。,8, 3, 280-288 (2004)
[61] V.Miranda,N.Fonseca,EPSO-进化粒子群优化,一种在电力系统中应用的新算法,收录于:Proc。IEEE传输。2002年展览分销大会。;V.Miranda,N.Fonseca,EPSO-进化粒子群优化,一种在电力系统中应用的新算法,收录于:Proc。IEEE传输。2002年展销会。
[62] V.Miranda,N.Fonseca,EPSO-双世界元神经在电力系统问题中的应用,摘自:Proc。恭喜。《进化计算》,2002年。;V.Miranda,N.Fonseca,EPSO-双世界元神经在电力系统问题中的应用,摘自:Proc。恭喜。进化计算,2002年。
[63] S.Naka,T.Genji,T.Yura,Y.Fukuyama,使用压缩因子方法基于混合粒子群优化的分布状态估计,in:Proc。国际。SCIS和ISIS会议,2002年。;S.Naka,T.Genji,T.Yura,Y.Fukuyama,使用压缩因子方法基于混合粒子群优化的分布状态估计,in:Proc。国际。2002年SCIS和ISIS会议。
[64] Narendra,K.S。;Parthasarathy,K.,使用神经网络识别和控制动力系统,IEEE Trans。神经网络,1,1,4-27(1990)
[65] 努努,H.N。;Nounou,M.N.,多尺度模糊卡尔曼滤波,工程应用。工件。智力。,19, 5, 439-450 (2006)
[66] E.Ozcan,C.K.Mohan,《粒子群优化:冲浪》,摘自:Proc。IEEE大会。关于进化计算,1999年。;E.Ozcan,C.K.Mohan,《粒子群优化:冲浪》,摘自:Proc。IEEE会议。进化计算,1999年。
[67] K.E.Parsopouls,M.N.Vrahatis,多目标问题中的粒子群优化方法,收录于:Proc。ACM交响乐团。《应用计算与进化计算》,2002年。;K.E.Parsopouls,M.N.Vrahatis,多目标问题中的粒子群优化方法,收录于:Proc。ACM交响乐团。应用计算和进化计算,2002年。
[68] Pearlmutter,B.A.,《动态递归神经网络的梯度计算:调查》,IEEE Trans。神经网络,1212-12228(1995)
[69] Polycarpou,M.M。;Ioannou,P.A.,神经型结构网络的学习和收敛分析,IEEE Trans。神经网络,3,1,39-50(1992)
[70] Puskorius,G。;Feldkamp,L.,用卡尔曼滤波器训练的递归网络对非线性动力系统进行神经控制,IEEE Trans。神经网络,5279-297(1994)
[71] P.Ramaswamy,M.Riese,R.Edwards,K.Lee,自动化模糊逻辑控制器调节过程的两种方法,见:IEEE决策与控制会议,1993年。;P.Ramaswamy,M.Riese,R.Edwards,K.Lee,《模糊逻辑控制器调节过程自动化的两种方法》,收录于:IEEE决策与控制会议,1993年。
[72] Ratnaweera,A。;Halgamuge,S。;Watson,H.,具有时变加速系数的自组织分层粒子群优化算法,IEEE Trans。进化。计算。,8, 3, 240-255 (2004)
[73] 荣,H.-J。;Sundararajan,N。;黄,G.-B。;Sarathandran,P.,用于非线性系统识别和预测的顺序自适应模糊推理系统(SAFIS),模糊集与系统,571260-1275(2006)·Zbl 1090.93011号
[74] 萨蒂尼,S。;Bimbo,A.D。;Jain,R.,块结构递归神经网络,神经网络,8135-147(1995)
[75] 沙阿·S。;Palmeieri,F。;Datum,M.,前馈神经网络快速学习的最佳滤波算法,神经网络,5779-787(1992)
[76] Shi,Y。;埃伯哈特,R。;Chen,Y.,进化模糊系统的实现,IEEE Trans。模糊系统,7,2(1999)
[77] Simon,D.,用扩展卡尔曼滤波器训练模糊系统,模糊集和系统,132189-199(2002)·Zbl 1010.93522号
[78] 西蒙,D。;El-Sherief,H.,数字锁相环滤波器设计的模糊逻辑,IEEE Trans。模糊系统,3211-218(1995)
[79] Singhal,S。;Wu,L.,用扩展卡尔曼算法训练多层感知器,高级神经信息。过程。系统,113-140(1989)
[80] Sonbol,A.H。;Sami Fadali,M.,离散TSK II/III型系统的稳定性分析,IEEE Trans。模糊系统,14,5,640-653(2006)
[81] Sonbol,A.H。;Sami Fadali,M.,TSK模糊系统类型II和III稳定性分析:连续情况,IEEE Trans。Systems Man和Cybernet。B部分,36,1,2-12(2006)
[82] P.N.Suganthan,带邻域算子的粒子群优化算法,摘自:Proc。IEEE会议。《进化计算》,1999年。;P.N.Suganthan,带邻域算子的粒子群优化算法,摘自:Proc。IEEE会议。进化计算,1999年。
[83] Sugeno,M。;Tanaka,K.,模糊模型的连续识别及其在复杂系统预测中的应用,模糊集与系统,42,315-334(1991)·Zbl 0741.93052号
[84] Surmann,H.,充电电池模糊系统的遗传优化,IEEE Trans。Ind.Electron公司。,43, 541-548 (1996)
[85] 高木,H。;Hayashi,I.,NN驱动模糊推理,国际。J.近似原因。,5, 3, 191-212 (1991) ·Zbl 0733.68074号
[86] Wachowiak,M。;斯莫利科娃,R。;郑毅。;J.祖拉达。;Elmaghraby,A.,《利用粒子群优化的多模式生物医学图像配准方法》,IEEE Trans。进化。计算。,8, 3, 289-301 (2004)
[87] E.A.Wan,A.T.Nelson,非线性预测、平滑和估计的双卡尔曼滤波方法,NIPS,1996年。;E.A.Wan,A.T.Nelson,用于非线性预测、平滑和估计的双卡尔曼滤波方法,NIPS,1996。
[88] Wang,L.,自适应模糊系统与控制:设计与稳定性分析(1994),Prentice Hall:Prentice Hall Englewood Cliffs,NJ
[89] Wang,L。;Frayman,Y.,动态生成的模糊神经网络及其在冷连轧机主轴扭转振动控制中的应用,工程应用。工件。智力。,15, 541-550 (2003)
[90] L.Wang,J.Mendel,作为非线性动态系统标识符的模糊系统的反向传播,收录于:IEEE Internat。模糊系统会议,1992年。;L.Wang,J.Mendel,作为非线性动态系统标识符的模糊系统的反向传播,收录于:IEEE Internat。模糊系统会议,1992年。
[91] Wang,L。;Yen,J.,使用遗传算法和卡尔曼滤波器混合提取系统建模的模糊规则,模糊集和系统,101,3,353-362(1999)
[92] 威廉姆斯,R.J。;Zipser,D.,连续运行递归神经网络的学习算法,神经计算。,1, 270-280 (1989)
[93] Wu,T.P。;Chen,S.M.,《从训练示例构造隶属函数和模糊规则的新方法》,IEEE Trans。Systems Man Cybernet。第二部分网络。,29, 1 (1999)
[94] Yager,R.R。;Zadeh,L.A.,模糊集神经网络和软计算(1994),汤姆森学习·Zbl 0831.68080号
[95] 杨振平。;冯晓霞,关于厄米矩阵幂乘积的迹不等式的注记,J.不等式-纯应用。数学。,3, 5 (2002) ·Zbl 1031.15024号
[96] Yoshida,H。;Kawata,K。;福山,Y。;Takayama,S。;Naknishi,Y.,考虑电压安全评估的无功功率和电压控制的粒子群优化,IEEE Trans。电力系统,15,4,1232-1239(2000)
[97] 于伟,李晓霞,使用稳定学习算法的模糊神经建模,in:Proc。美国控制大会,2003年。;于伟,李晓霞,使用稳定学习算法的模糊神经建模,in:Proc。美国控制会议,2003年。
[98] 于伟(Yu,W.)。;Li,X.,使用具有稳定学习算法的模糊神经网络进行模糊识别,IEEE Trans。模糊系统,12,3,411-420(2004)
[99] 张杰。;Morris,A.J.,非线性过程建模的递归神经模糊网络,IEEE Trans。神经网络,10313-326(1999)
[100] 周,Y。;李,S。;Jin,R.,一种具有快速学习算法和保证稳定性的新型模糊神经网络,用于制造过程控制,模糊集与系统,132,2,201-216(2002)·兹比尔1010.93533
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。