×
魏毅恒;康瑜;尹伟迪;王勇

分数阶梯度方向梯度法的推广。 （英语） Zbl 1456.90163号

J.富兰克林研究所。 357，第4期，2514-2532（2020）.
摘要：分数微积分是一种有效的工具，它有潜力提高梯度方法的性能。然而，当一阶梯度方向被分数阶梯度方向推广时，相应的算法收敛到目标函数的分数极点，而目标函数的小数极点并不等于真正的极点。这个缺点严重阻碍了这种方法的应用。为了解决这种收敛问题，本文分析了具体原因，并提出了三种可能的解决方案。考虑到分数阶导数的长记忆特性，短记忆原理是首选。除了截断存储长度外，还发展了两种新的方法来达到收敛。前者是对无穷级数的截断，后者是对常分数阶的修正。最后，通过六个示例说明了所提方法的有效性和实用性。

引用于9文件

MSC公司：

90立方厘米 分数编程

关键词：

常分数阶无穷级数修改的截断
PDF格式BibTeX公司 XML格式引用
\textit{Y.Wei}等人，J.Franklin Inst.357，No.4，2514--2532（2020；Zbl 1456.90163）
全文： 内政部 arXiv公司

参考文献：

[1] 任志刚。；徐，C。；周，Z.C。；吴振中。；Chen，T.H.，通过基于梯度的优化方法实现一类反应-对流-扩散系统的边界稳定，J.Frankl。研究所，356，1，173-195（2019）·Zbl 1405.93123号
[2] Ge，Z.W。；丁·F。；徐，L。；Alsadei，A。；Hayat，T.，使用分解技术的多元方程误差自回归滑动平均系统的基于梯度的迭代识别方法，J.Frankl。研究所，356，3，1658-1676（2019）·兹比尔1406.93358
[3] LeCun，Y。；Y.本吉奥。；Hinton，G.，《深度学习》，《自然》，521436-444（2015）
[4] Pu，Y.F。；周J.L。；Yuan，X.，《分数微分掩模：一种基于分数微分的多尺度纹理增强方法》，IEEE Trans。图像处理。，19, 2, 491-511 (2010) ·Zbl 1371.94302号
[5] 博伊德，S。；Vandenberghe，L.，《凸优化》（2004），剑桥大学出版社：剑桥大学出版社·Zbl 1058.90049号
[6] 刘，P。；曾振国。；Wang，J.，分数阶递归神经网络的多重Mittag-Lefler稳定性，IEEE Trans。系统。，网络人：系统。，47, 8, 2279-2288 (2017)
[7] Yin，W.D。；Wei，Y.H。；Liu，T.Y。；Wang，Y.，一种用于前馈振动抑制的新型正交分数阶滤波x归一化最小二乘算法，Mech。系统。信号处理。，119, 138-154 (2019)
[8] Wei，Y.H。；孙振英。；胡永生。；Wang，Y.，基于梯度算法的分数阶系统在线参数估计，J.Control Decis。，2, 4, 219-232 (2015)
[9] 陈永强。；Wei，Y.H。；Liang，S。；Wang，Y.，一类分数阶系统的间接模型参考自适应控制，Commun。非线性科学。数字。模拟。，39, 458-471 (2016) ·Zbl 1510.93139号
[10] Tan，Y。；何振强。；Tian，B.Y.，将改进的LMS算法推广到分数阶，IEEE信号处理。莱特。，22, 9, 1244-1248 (2015)
[11] Cheng，S.S。；Wei，Y.H。；陈永强。；Liang，S。；王毅，迭代顺序混合切换的通用修正LMS算法，ISA Trans。，67, 67-75 (2017)
[12] 崔瑞珍。；Wei，Y.H。；Cheng，S.S。；王毅，脉冲噪声分数阶系统的一种新的参数估计方法，ISA Trans。，82, 120-129 (2019)
[13] Liang，S。；王，L.Y。；Yin，G.，带收敛速度分析的凸优化分数微分方程方法，Opt。莱特。，14, 145-155 (2020) ·Zbl 1433.90114号
[14] Pu，Y.F.先生。；周J.L。；Zhang，Y。；张，N。；黄，G。；Siarry，P.，分数极值自适应训练方法：分数最速下降法，IEEE Trans。神经网络。学习。系统。，26, 4, 653-662 (2015)
[15] 扎胡尔，R.M.A。；Qureshi，I.M.，使用分数导数的改进最小均方算法及其在系统识别中的应用，《欧洲科学杂志》。第35、1、14-21号决议（2009年）
[16] Shoaib，B。；Qureshi，I.M.，用于混沌和非平稳时间序列预测的改进分数最小均方算法，Chin。物理学。B、 23、3、030502（2014）
[17] Aslam，M.S。；Raja，M.A.Z.，使用分数信号处理方法改进有源噪声控制系统在线二次路径建模的新自适应策略，信号处理。，107, 433-443 (2015)
[18] Geravanchizadeh，M。；Ghalami Osgouei，S.，分数自适应滤波的改进凸组合语音增强，伊朗。J.电气。电子。工程，10，4，256-266（2014）
[19] 沙阿·S·M。；萨马尔，R。；新墨西哥州汗。；Raja，M.A.Z.，用于自适应信道均衡的复杂LMS和NLMS算法的分数阶变量设计，非线性动态。，88, 2, 839-858 (2017) ·Zbl 1375.93130号
[20] Z.A.Khan。；新泽西州乔杜里。；Zubair，S.，推荐系统的分数随机梯度下降，电子。作记号。，29, 275-285 (2019)
[21] Khan，S。；纳西姆，I。；Malik，医学硕士。；托涅里，R。；Bennamoun，M.，基于分数梯度下降的RBF神经网络，电路，系统。信号处理。，37, 12, 5311-5332 (2018)
[22] Khan，S。；艾哈迈德，J。；纳西姆，I。；Moinuddin，M.，用于递归神经网络的新型分数梯度学习算法，电路，系统。信号处理。，37, 2, 593-612 (2018) ·Zbl 1477.68271号
[23] 陈永强。；高奇。；Wei，Y.H。；王毅，分数阶梯度法的研究，应用。数学。计算。，314, 310-321 (2017) ·Zbl 1426.65077号
[24] 崔瑞忠。；Wei，Y.H。；陈永强。；Cheng，S.S。；Wang，Y.，存在离群值时分数阶系统的创新参数估计，非线性动力学。，89, 1, 453-463 (2017) ·Zbl 1374.93094号
[25] Cheng，S.S。；Wei，Y.H。；陈永强。；李毅。；王毅，基于变初值和梯度阶的分数阶LMS，信号处理。，133, 260-269 (2017)
[26] Wang，J。；Wen，Y.Q。；郭永德。；Ye，Z.Y。；Chen，H.，带Caputo导数的BP神经网络分数阶梯度下降学习，神经网络。，89, 19-30 (2017) ·兹比尔1434.68466
[27] doi:10.1016/j.neucom.2019.10.017。
[28] 杜，B。；陈永强。；Wei，Y.H。；Cheng，S.S。；王毅，关于分数阶导数极值点的讨论，第35届中国控制会议（CCC 2016），10510-10515（2016）
[29] Podlubny，I.，《分数微分方程：分数导数、分数微分方程、其求解方法及其应用简介》（1998年），学术出版社：圣地亚哥学术出版社·Zbl 0922.45001号
[30] Wei，Y.H。；陈永强。；高奇。；王毅，分数阶微积分中函数的无穷级数表示，中国自动化大会（CAC 2019），22-24（2019年），杭州，No.CAC2019-484
[31] Wei，Y.H。；陈永强。；Cheng，S.S。；王毅，分数阶微积分短时记忆原理的注记，分形。微积分应用。分析。，20, 6, 1382-1404 (2017) ·Zbl 1391.26026号
[32] Rosenbrock，H.，一种寻找函数最大值或最小值的自动方法，Comput。J.，3，3，175-184（1960）
[33] Jordan，M.I.，梯度优化的动力学、辛和随机观点，国际数学家大会论文集，523-550（2018）·Zbl 1523.65101号
[34] 穆勒巴赫，M。；Jordan，M.I.，《Nesterov加速度的动力学系统观点》，机器学习国际会议（ICML 2019），2019年10月15日，美国长滩，4656-4662
[35] Wu，C.W。；刘建新。；Jing，X.J。；Li，H.Y。；Wu，L.G.，非线性网络控制系统的自适应模糊控制，IEEE Trans。系统。，网络人：系统。，47, 8, 2420-2430 (2017)
[36] Sun，G.H。；Wu，L.G。；Kuang，Z.A。；马振清。；Liu，J.X.，基于分数阶滑模的直线电机实用跟踪控制，Automatica，94，221-235（2018）·Zbl 1401.93064号
[37] 苏晓杰。；夏福强。；刘建新。；Wu，L.G.，非线性系统的事件触发模糊控制及其在倒立摆系统中的应用，Automatica，94236-248（2018）·Zbl 1401.93129号
[38] 张，M。；Shi，P。；Ma，L.H。；蔡建平。；Su，H.Y.，模糊马尔可夫跳跃系统的量化反馈控制，IEEE Trans。赛博。，49, 9, 3375-3384 (2018)
[39] 张，M。；Shi，P。；Ma，L.H。；蔡建平。；Su，H.Y.，具有量化和丢失补偿的非线性马尔可夫跳跃系统的基于网络的模糊控制，模糊集系统。，371, 96-109 (2019) ·Zbl 1423.93226号
此参考列表基于出版商或数字数学图书馆提供的信息。它的项目与zbMATH标识符启发式匹配，并且可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。