×
马可·福吉恩；达里奥·皮加

神经网络连续时间系统辨识：模型结构和拟合准则。 （英语） 兹比尔1466.93032

欧洲药典控制 59, 69-81 (2021).
总结：本文介绍了定制的神经模型结构和两个用于学习动态系统的自定义拟合准则。该框架基于连续时间状态空间模型对系统行为的表示。隐藏状态序列与神经网络参数一起优化，以最小化测量和估计输出之间的差异，同时确保优化状态序列与估计的系统动力学一致。通过三个案例研究，包括两个基于实验数据的公共系统识别基准，证明了该方法的有效性。

引用于6文件

MSC公司：

93B30型 系统标识
68T07型 人工神经网络与深度学习

关键词：

系统标识；动力系统；神经网络；深度学习

软件：

系统标识工具箱；亚当；PyTorch公司；PDE-网络；火炬差异；TensorFlow公司；CONTSID公司
PDF格式BibTeX公司 XML格式引用
\textit{M.Forgione}和\textit{D.Piga}，《欧洲期刊控制》59，69-81（2021；Zbl 1466.93032）
全文： 内政部 arXiv公司

参考文献：

[1] M.Abadi等人，《TensorFlow:异构系统上的大规模机器学习》，2015年，软件可从TensorFlow.org获得。
[2] Alessandri，A。；巴格里托，M。；巴蒂斯特利，G。；Gaggro，M.，使用神经网络的非线性系统的移动时域状态估计，IEEE Trans。神经网络。，22, 5, 768-780 (2011)
[3] Bengio，Y.，《学习人工智能的深层架构》，Found。Trends®马赫数。学习。，2, 1, 1-127 (2009) ·Zbl 1192.68503号
[4] Birpoutsoukis，G。；Csurcsia，P.Z。；Schoukens，J.，Volterra级数估计的有效多维正则化，Mech。系统。信号处理。，104, 896-914 (2018)
[5] 博克·H·G。；Plitt，K.-J.，直接求解最优控制问题的多重打靶算法，IFAC Proc。第17卷，第2卷，1603-1608（1984）
[6] 陈，S。；比林斯，S。；Grant，P.，使用神经网络的非线性系统识别，国际期刊控制，51，6，1191-1214（1990）·Zbl 0703.93071号
[7] Chen，T.Q。；Rubanova，Y。；Bettencourt，J。；Duvenaud，D.K.，神经常微分方程，神经信息处理系统进展，6571-6583（2018）
[8] Di Capua，G。；Femia，N。；Stoyka，K。；Lodi，M。；奥利维里（A.Oliveri）。；Storace，M.，开关电源分析和设计用铁氧体电感模型，2017年第14届合成、建模、分析和仿真方法及在电路设计中的应用国际会议，1-4（2017）
[9] 福吉恩，M。；Piga，D.，《神经网络系统识别的模型结构和拟合标准》，第14届IEEE ICT应用国际会议，乌兹别克斯坦塔什干（2020年）
[10] Garnier，H.，系统辨识的直接连续时间方法。概述和实际应用的好处，Eur.J.Control，24，50-62（2015）·Zbl 1360.93180号
[11] Garnier，H。；Mensler，M。；Richard，A.，《从采样数据中进行连续时间模型识别：实施问题和性能评估》，《国际控制杂志》，第76、13、1337-1357页（2003年）·Zbl 1050.93014号
[12] Garnier，H。；Wang，L.，从采样数据中识别连续时间模型（2008），Springer Publishing Company，Incorporated
[13] Garnier，H。；Young，P.C.，《在实际应用中直接识别连续时间传递函数模型的优势》，《国际控制杂志》，87，7，1319-1338（2014）·Zbl 1317.93258号
[14] H.Garnier，P.C.Young，《连续时间模型识别和估计应用专题》，2014b·Zbl 1321.00103号
[15] 冈萨雷斯，J。；Yu，W.，使用LSTM神经网络的非线性系统建模，IFAC-PapersOnLine，51，13，485-489（2018）
[16] 古德费罗，I。；Y.本吉奥。；科尔维尔，A。；Bengio，Y.，深度学习，1（2016），麻省理工学院出版社，剑桥·Zbl 1373.68009号
[17] 格雷达努斯，S。；Dzamba，M。；Yosinski，J.，Hamilton神经网络，神经信息处理系统进展，15353-15363（2019）
[18] 哈伯，E。；Ruthotto，L.，深度神经网络的稳定架构，反问题，34，1，014004（2017）·Zbl 1426.68236号
[19] He，K。；张，X。；任，S。；Sun，J.，图像识别的深度残差学习，IEEE计算机视觉和模式识别会议论文集，770-778（2016）
[20] 霍恩，B.G。；Giles，C.L.，递归神经网络的实验比较，神经信息处理系统进展，697-704（1995）
[21] Janot，A。；戈蒂埃，M。；Brunot，M.，EMPS的数据集和参考模型，非线性系统识别基准，荷兰EINDHOVEN（2019）
[22] 金玛，D.P。；Ba，J.，Adam:一种随机优化方法，（Bengio，Y.；LeCun，Y.，第三届国际学习代表大会，ICLR 2015，美国加利福尼亚州圣地亚哥，2015年5月7日至9日，会议跟踪会议记录（2015））
[23] 库马尔，R。；Srivastava，S。；古普塔，J。；Mohindru，A.，用于动态非线性系统辨识的神经网络比较研究，软计算。，23, 1, 101-114 (2019) ·Zbl 1415.93021号
[24] 拉泰尔，J。；Pintelon，R。；Piga，D。；Tóth，R.，用基于频域核估计的连续时间线性时变系统辨识，IET控制理论应用。，11, 4, 457-465 (2017)
[25] LeCun，Y。；Y.本吉奥。；Hinton，G.，《深度学习》，《自然》，521，7553，436-444（2015）
[26] 刘，Y。；Zhu，J.J.，使用神经网络的连续时间非线性系统识别，2008年美国控制会议，613-618（2008），IEEE
[27] Ljung，L.，参数识别方法的收敛性分析，IEEE Trans。自动。控制，23，5，770-783（1978）·Zbl 0392.93038号
[28] 系统识别：用户理论，（Ljung，L.（1999），普伦蒂斯·霍尔PTR：普伦蒂斯霍尔PTR Upper Saddle River，NJ，USA）·Zbl 0615.93004号
[29] Ljung，L。；Singh，R.，Matlab系统识别工具箱第8版，IFAC Proc。第45卷、第16卷、第1826-1831卷（2012年）
[30] 长，Z。；卢，Y。；Dong，B.，PDE-Net 2.0：使用数字符号混合深度网络从数据中学习PDE，J.Compute。物理。，399, 108925 (2019) ·Zbl 1454.65131号
[31] M.Lutter，C.Ritter，J.Peters，深度拉格朗日网络：使用物理学作为深度学习的模型先验，arXiv:1907.04490（2019）。
[32] D.马斯蒂。；Bempoad，A.，使用深度自动编码器学习非线性状态空间模型，2018 IEEE决策与控制会议（CDC），3862-3867（2018）
[33] 美塞，G。；帕尔松，H。；Poinot，T.，交叉流换热器的连续时间线性参数变量识别：局部方法，IEEE Trans。控制系统。技术。，19, 1, 64-76 (2011)
[34] Paszke，A。；毛重，S。；钦塔拉，S。；Chanan，G。；杨，E。；德维托，Z。；林，Z。；Desmaison，A。；安提瓜，L。；Lerer，A.，《PyTorch中的自动区分》，NIPS Autodiff Workshop（2017）
[35] 出版中·Zbl 1453.93068号
[36] 夸特罗尼，A。；Sacco，R。；Saleri，F.，《数值数学》，37（2010），Springer Science&Business Media·Zbl 0913.65002号
[37] C.Rackauckas，Y.Ma，J.Martensen，C.Warner，K.Zubov，R.Supekar，D.Skinner，A.Ramadhan，科学机器学习的通用微分方程，arXiv:2001.04385（2020）。
[38] 莱斯，M。；佩迪卡里斯，P。；Karniadakis，G.E.，《基于物理的神经网络：用于解决涉及非线性偏微分方程的正问题和逆问题的深度学习框架》，J.Computat。物理。，378, 686-707 (2019) ·Zbl 1415.68175号
[39] Ralston，A.，具有最小误差边界的Runge-Kutta方法，数学。计算。，16, 80, 431-437 (1962) ·Zbl 0105.31903号
[40] Relan，R。；Tiels，K。；马可纳托，A。；Schoukens，J.，级联水箱基准的非结构化柔性非线性模型，IFAC-PapersOnLine，50，1，452-457（2017）
[41] 任，X。；Rad，A.B。；Chan，P。；Lo，W.L.，通过动态神经网络识别和控制连续时间非线性系统，IEEE工业电子学报，50，3，478-486（2003）
[42] 里贝罗，A.H。；Tiels，K。；Umenberger，J。；Schön，T.B。；Aguirre，L.A.，《关于非线性系统辨识的光滑性》，Automatica，121109158（2020）·Zbl 1448.93064号
[43] 罗杰斯，T。；霍姆斯，G。；克罗斯，E。；Worden，K.，《关于非线性系统识别的灰箱建模框架》，结构动力学专题，第6卷，167-178（2017），Springer
[44] Rumelhart，D.E。；辛顿，G.E。；Williams，R.J.，通过反向传播错误学习表征，Cognit。型号。，5，3（1988年）·Zbl 1369.68284号
[45] 鲁索托，L。；Haber，E.，偏微分方程驱动的深层神经网络，J.Math。成像视觉。，1-13 (2019)
[46] Schmidhuber，J.，神经网络中的深度学习：综述，神经网络。，61, 85-117 (2015)
[47] Schoukens，M。；Noöl，J.P.，《解决非线性系统识别中开放挑战的三个基准》，IFAC-PapersOnLine，50，1，446-451（2017）
[48] Svensson，A。；Schön，T.B.，用于学习非线性动力系统的灵活状态空间模型，Automatica，80，189-199（2017）·Zbl 1370.93300号
[49] Van Overschee，P.（Van Overschee，P.）。；De Moor，B.，N4SID:识别组合确定性随机系统的子空间算法，Automatica，30，1，75-93（1994）·Zbl 0787.93097号
[50] Wang，Y.，使用LSTM神经网络进行动态系统识别的新概念，2017年美国控制会议（ACC），5324-5329（2017）
[51] Weinan，E.，《通过动态系统进行机器学习的建议》，Commun。数学。统计，5，1，1-11（2017）·Zbl 1380.37154号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。