×

一种自适应步长的准分数阶梯度下降法及其在系统辨识中的应用。 (英语) Zbl 1508.90070号

摘要:本文将分数阶梯度法(FOGM)推广到求解高维函数优化问题。提出了一种准分数阶梯度下降方法(QFOGDM),并在QFOGDM中引入了自适应步长。通过三个定理对QFOGDM的收敛性进行了理论分析。通过求解15个无约束优化基准的数值实验,比较了其性能。同时,将该算法用于线性离散确定性系统的参数辨识,取得了较好的收敛速度和精度。

MSC公司:

90C26型 非凸规划,全局优化
65K10码 数值优化和变分技术
90摄氏52度 减少梯度类型的方法
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] 刘杰。;Xu,X。;Cui,X.,一种用于无约束优化的具有自适应信任域的加速非单调信任域方法,计算。最佳方案。申请。,69, 1, 77-97 (2018) ·Zbl 1393.90117号
[2] 刘,P。;曾,Z。;Wang,J.,分数阶递归神经网络的多重mittag-lefler稳定性,IEEE Trans。系统。人类网络。系统。,47, 8, 2279-2288 (2017)
[3] 尹,W。;魏毅。;刘,T。;Wang,Y.,一种用于前馈振动抑制的新型正交分数阶滤波x归一化最小二乘算法,Mech。系统。信号处理。,119, 138-154 (2019)
[4] 魏毅。;陈,Y。;Cheng,S。;王毅,分数阶微积分短时记忆原理的注记,分形。微积分应用。分析。,20, 6, 1382-1404 (2017) ·Zbl 1391.26026号
[5] 加列戈斯,J.A。;Duarte-Mermoud,M.A.,使用梯度方法的分数阶自适应系统的收敛,ISA Trans。,第69页,第31-42页(2017年)
[6] Pu,Y.-F。;周,J.-L。;Zhang,Y。;张,N。;Huang,G.等人。;Siarry,P.,分数极值自适应训练方法:分数最速下降法,IEEE Trans。神经网络。学习。系统。,26, 4, 653-662 (2013)
[7] 新泽西州乔杜里。;Raja,M.A.Z.,使用非线性自适应算法识别Hammerstein非线性ARMAX系统,非线性动力学。,79, 2, 1385-1397 (2015) ·Zbl 1345.93045号
[8] Malek,H。;Chen,Y.,分数阶极值寻求控制:性能和稳定性分析,IEEE/ASME Trans。机电一体化。,21, 3, 1620-1628 (2016)
[9] Cheng,S。;魏毅。;陈,Y。;李,Y。;王毅,基于变初值和梯度阶的分数阶LMS,信号处理。,133, 260-269 (2017)
[10] 新泽西州乔杜里。;祖拜尔,S。;Raja,M.A.Z.,使用分数自适应算法进行功率信号建模的新计算方法,ISA Trans。,68, 189-202 (2017)
[11] Zubair,S。;新泽西州乔杜里。;Khan,Z。;Wang,W.,功率信号参数估计的动量分数LMS,信号处理。,142, 441-449 (2018)
[12] 尹,C。;Dadras,S。;黄,X。;Cheng,Y。;Malek,H.,基于分数阶梯度的多元极值搜索方法的设计和性能分析,应用。数学。型号。,62, 680-700 (2018) ·Zbl 1460.93052号
[13] Tan,Y。;何,Z。;Tian,B.,将改进的LMS算法推广到分数阶,IEEE信号处理。莱特。,22, 9, 1244-1248 (2015)
[14] 陈,Y。;高奇。;魏毅。;王毅,分数阶梯度法的研究,应用。数学。计算。,314, 310-321 (2017) ·Zbl 1426.65077号
[15] 魏毅。;Kang,Y。;尹,W。;Wang,Y.,分数阶梯度方向梯度法的推广,J.Frankl。研究所,357,4,2514-2532(2020)·Zbl 1456.90163号
[16] Wang,J。;温,Y。;郭,Y。;Ye,Z。;Chen,H.,带Caputo导数的BP神经网络分数阶梯度下降学习,神经网络。,89, 19-30 (2017) ·Zbl 1434.68466号
[17] 鲍,C。;Pu,Y。;张勇,分数阶深度反向传播神经网络,计算。智力。神经科学。,2018 (2018)
[18] Khan,S。;艾哈迈德·J。;纳西姆,我。;Moinuddin,M.,递归神经网络的新型分数梯度学习算法,Circt。系统。信号处理。,37, 2, 593-612 (2018) ·Zbl 1477.68271号
[19] Shujaat,K。;伊姆兰,N。;M.M.阿马尔。;Roberto,T。;Mohammed,B.,基于分数梯度下降的RBF神经网络,Circt。系统。信号处理。,37, 12, 5311-5332 (2018)
[20] Sheng,D。;魏毅。;陈,Y。;Wang,Y.,分数阶梯度法卷积神经网络,神经计算(2019)
[21] 佐尔法哈里,Z。;巴拉达兰尼亚,M。;哈希姆扎德,F。;Ghaemi,S.,Caputo分数系统的时间最优控制和切换曲线分析,2016年第三届软计算与机器智能国际会议(ISCMI),229-233(2016),IEEE
[22] 李,D。;卢·T。;Jin,Q.,基于分数阶梯度下降法的分数阶非线性系统预测控制,系统。模拟。技术。,2, 127-131 (2017)
[23] 魏毅。;孙,Z。;胡,Y。;Wang,Y.,基于梯度算法的分数阶系统在线参数估计,J.Control Decis。,2, 4, 219-232 (2015)
[24] 王,B。;Yifei,P。;Zhou,J.,一种新的分数微分图像边缘检测算子,计算。申请。研究,29,8,3160-3162(2012)
[25] 李,B。;Xie,W.,自适应分数微分方法及其在医学图像增强中的应用,计算。选举人。工程师,45,324-335(2015)
[26] 李,B。;Xie,W.,基于小概率策略自适应分数阶微积分的图像去噪与增强,神经计算,175,704-714(2016)
[27] 肖伊布,B。;库雷希,I.M。;Ihsanulhaq;Shafqatullah,混沌和非平稳时间序列预测的改进分数最小均方算法,中国。物理学。B、 23、3、030502(2014)
[28] 刘杰。;王,Z。;舒,M。;张,F。;Leng,S。;Sun,X.,基于分数差分函数同步的分数复杂混沌系统的安全通信,复杂性,2019,1-10(2019)·Zbl 1429.94008号
[29] 沙阿·S·M。;萨马尔,R。;新墨西哥州汗。;Raja,M.A.Z.,有源噪声控制系统的分数阶自适应信号处理策略,非线性动力学。,85, 3, 1363-1376 (2016)
[30] Shi,B。;袁杰。;Dong,C.,关于分数模型参考自适应控制,科学。《世界杂志》,2014,521625(2014)
[31] Bai,J。;文,G。;Rahmani,A。;Yu,Y.,具有绝对阻尼和通信延迟的分数阶多智能体系统的分布式编队控制,国际期刊系统。科学。,46, 13, 2380-2392 (2015) ·Zbl 1332.93008号
[32] 新泽西州乔杜里。;拉贾,M.A.Z。;Aslam,M.S。;Ahmed,N.,Volterra LMS算法在分数阶上的新推广及其在系统辨识中的应用,神经计算。申请。,29, 6, 41-58 (2018)
[33] Ivanov,D.,《离散分数阶Hammerstein系统的识别》,2015年国际西伯利亚控制与通信会议(SIBCON),1-4(2015),IEEE
[34] 陈,Y。;魏毅。;杜,B。;王毅,识别线性系统的新型分数阶梯度方法,2017年中国自动化协会青年学术年会,352-356(2017),IEEE
[35] Žecova,M。;Terpak,J.,使用分数阶导数进行热传导建模,Appl。数学。计算。,257, 365-373 (2015) ·Zbl 1338.80012号
[36] 新泽西州乔杜里。;艾哈迈德,M。;Z.A.Khan。;Zubair,S。;拉贾,M.A.Z。;Dedovic,N.,控制自回归自回归系统参数估计的归一化分数自适应算法设计,应用。数学。型号。,55, 698-715 (2018) ·Zbl 1480.93456号
[37] 新泽西州乔杜里。;阿斯拉姆·汗,Z。;Zubair,S。;拉贾,M.A.Z。;Dedovic,N.,非线性控制自回归系统的归一化分数自适应方法,应用。数学。型号。,66, 457-471 (2019) ·Zbl 1481.93147号
[38] 新泽西州乔杜里。;Zubair,S。;Aslam,M.S。;拉贾,M.A.Z。;Machado,J.A.T.,《应用于电刺激肌肉模型的hammerstein非线性系统辨识的动量分数LMS设计》,《欧洲物理学》。J.Plus,134407(2019年)
[39] 新泽西州乔杜里。;拉蒂夫,R。;Zahour Raja,文学硕士。;Tenreiro Machado,J.,用于功率信号参数估计的创新分数阶LMS算法,应用。数学。型号。,83, 703-718 (2020) ·Zbl 1481.94050号
[40] 吴琼。;Huang,J.,《分数微积分》(2016),清华大学出版社
[41] Huang,Z.,关于非负矩阵Hadamard积的谱半径和谱范数,线性代数应用。,434, 2, 457-462 (2011) ·Zbl 1209.15015号
[42] Nocedal,J。;Wright,S.,《数值优化》(2006),Springer Science&Business Media·兹比尔1104.65059
[43] 孙,W。;Yuan,Y.,优化理论与方法(2006),Springer:Springer US·邮编1129.90002
[44] 菲律宾马尼拉大马尼拉奎松市
[45] Jamil,M。;Yang,X.S.,《全局优化问题基准函数的文献综述》,国际数学杂志。模型。数字。最佳。,4, 2, 150-194 (2013) ·Zbl 1280.65053号
[46] 新泽西州乔杜里。;拉贾,M.A.Z。;Rehman Khan,A.U.,Hammerstein非线性控制自回归系统的改进分数自适应策略设计,非线性动力学。,82, 4, 1811-1830 (2015) ·兹比尔1437.93138
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。