×
简·索科洛夫斯基;沃尔克·舒尔茨;汉斯·佩特·贝斯;乌多·施罗德

人工神经网络鲁棒性的混合目标函数——机械系统参数估计。 （英语） Zbl 1494.93131号

ETNA，电子。事务处理。数字。分析。 56, 209-234 (2022).
摘要：在几项研究中，与普通数据驱动的神经网络相比，混合神经网络对噪声输入数据更具鲁棒性。我们考虑基于加速度曲线估计机械车辆模型参数的任务。我们引入了一种卷积神经网络结构，该结构在给定序列数据的情况下，能够预测未知参数不同的一系列车辆模型的参数。该网络通过两个目标函数进行训练。第一种方法是一种更简单的方法，它假设真实参数已知。第二个目标包含了潜在动力学的知识，因此被视为混合方法。我们表明，在鲁棒性方面，后者在未知噪声输入数据上优于第一个目标。

MSC公司：

93E12号机组 随机控制理论中的辨识
93E10型 随机控制理论中的估计与检测
93B70型 网络控制

关键词：

系统标识;参数估计;卷积神经网络;顺序数据;预测稳健性;数学建模;动力系统

软件：

AlexNet公司;单词2vec;火炬差异;BERT（误码率）;MNIST公司;图像网络
PDF格式BibTeX公司 XML格式引用
\textit｛J.Sokolovski｝等人，ETNA，电子。事务处理。数字。分析。56、209--234（2022年；Zbl 1494.93131）
全文： DOI程序 arXiv公司

参考文献：

[1] W.ABBAS、O.B.ABOUELATTA、M.EL-AZAB、M.ELSAIDY、ANDA。A.MEGAHED，《使用遗传算法优化生物动力学坐姿人体模型》，《工程学》，第2期（2010年），第710-719页。
[2] W.ABBAS、A.EMAM、S.BADRAN、M.SHEBL、ANDO。ABOUELATTA，使用遗传算法的驾驶员模型的半汽车最佳座椅和悬架设计，Intell。控制自动。，4（2013年），第31745条，7页。
[3] I.AYED、E.DEBéZENAC、A.PAJOT、J.BRAJARD和ANDP。GALLINARI，从部分观测中学习动力系统，电子版arXiv:1902.111362019年2月。https://arxiv.org/abs/1902.11136
[4] S.BAI、J.Z.KOLTER和ANDV。KOLTUN，用于序列建模的通用卷积和递归网络的经验评估，电子打印arXiv:1803.12721018年3月。https://arxiv.org/abs/1803.01271
[5] S.L.BRUNTON、J.L.PROCTOR和ANDJ。N.KUTZ，带控制的非线性动力学稀疏辨识（SINDYc），IFAC论文在线，49（2016），第710-715页。
[6] F.陈、N.陈、H.毛、ANDH。HU，《在手写数字识别数据集（MNIST）上评估四个神经网络》，电子打印arXiv:1811.082782018年11月。https://arxiv.org/abs/1811.08278
[7] R.T.Q.CHEN、Y.RUBANOVA、J.BETTENCOURT和D。K.DUVENAUD，神经常微分方程，《神经信息处理系统进展》31，S.Bengio，H.Wallach，H.Larochelle，K.Grauman，N.Cesa-Bianchi，and R.Garnett，eds.，Curran Associates，Red Hook，2018年，第6571-6583页。
[8] A.DAW、A.KARPATNE、W.WATKINS、J.READ和ANDV。KUMAR，《物理引导神经网络（PGNN）：在湖泊温度建模中的应用》，电子版arXiv:1710.114312017年10月。https://arxiv.org/abs/1710.11431
[9] J.DEVLIN、M.-W.CHANG、K.LEE和ANDK。TOUTANOVA，BERT：深度双向变压器语言理解预培训，电子版arXiv:1810.04805v22019年5月。https://arxiv.org/abs/1810.04805v2
[10] G.DORFFNER，时间序列处理的神经网络，神经网络。《世界》，6（1996），第447-468页。
[11] A.N.EMMANUEL、A.DAVID、Y.K.BENJAMIN、ANDE。T.YANNICK，分批发酵模拟的混合神经网络方法，澳大利亚。J.基本应用。科学。，3（2009年），第3930-3936页。
[12] A.FAHEEM、F.ALAM和ANDV。THOMAS，四分之一汽车模型和半汽车模型的悬架动力学分析，第三届BSME-ASME国际热工程会议，2006年。
[13] E.海尔、C.卢比奇和安迪。WANNER，《几何-数值积分：常微分方程的结构保持算法》，Springer，柏林，2006年·Zbl 1094.65125号
[14] F.HAMILTON，微分方程中的参数估计：射击方法的数值研究，SIAM本科生。Res.Online，4（2011），第01073条，16页。
[15] F.HAMILTON、A.L.LLOYD和ANDK。B.FLORES，动力系统的混合建模和预测，PLoS Compute。生物学，13（2017），第1005655条，20页。
[16] K.HE、X.ZHANG、S.REN、ANDJ。SUN，图像识别的深度剩余学习，《IEEE计算机视觉和模式识别会议论文集》，2016年6月，IEEE会议论文集，洛斯阿拉米托斯，2016年，第770-778页。
[17] K.J.KEESMAN，《系统识别：简介》，施普林格出版社，伦敦，2011年·Zbl 1230.93001号
[18] D.P.金格玛·安德姆。《变分自动编码器简介》，电子版arXiv:1906.026912019年6月。https://arxiv.org/abs/1906.02691 ·Zbl 1431.68002号
[19] A.克里日夫斯基，I.苏茨凯弗，以及g。E.HINTON，深度卷积神经网络的图像网络分类，《神经信息处理系统进展》25，F.Pereira、C.J.C.Burges、L.Bottou和K.Q.Weinberger编辑，Curran Associates，Red Hook，2012，第1097-1105页。
[20] A.KULKARNI，S.A.RANJHA，安达。KAPOOR，一种用于轮内电动汽车动态评估的四分之一悬架模型，《机械工程师学会学报》，D部分：《汽车工程杂志》，232（2018），第1139-1148页。
[21] V.KUMAR，舒适性评估乘用车的建模与仿真，国际J.Res.Appl。科学。工程技术。，6（2018年），第4013-4018页。
[22] C.LI、Z.DING、D.ZHAO、J.YI、ANDG。张，《建筑能耗预测：一种极端深入的学习方法》，《能源》，10（2017），第1525条，20页。
[23] T.MIKOLOV，K.CHEN，G.CORRADO，ANDJ。DEAN，向量空间中单词表示的有效估计，电子版arXiv:1301.3781，1月。2013https://arxiv.org/abs/1301.3781
[24] A.MITRA、N.BENERJEE、H.KHALANE、M.SONAWANE、D.JOSHI和ANDG。BAGUL，在分析验证的matlab/simulink模型上模拟和分析各种道路轮廓的整车模型，IOSR J.Mech。公民。《工程师》（2013），第22-33页。
[25] V.MNIH、K.KAVUKCUOGLU、D.SILVER、A.GRAVES、I.ANTONOGLOU、D.WIERSTRA、ANDM。里德米勒（RIEDMILLER），《玩深度强化学习游戏》（Playing atari with deep reinforcement learning），电子版arXiv:1312.56022013年12月。https://arxiv.org/abs/1312.5601
[26] M.PEIFER ANDJ先生。TIMMER，使用多重打靶法的生化过程常微分方程中的参数估计，IET系统。生物学，1（2007），第78-88页。
[27] D.C.PSICHOGIOS ANDL。H.UNGAR，过程建模的混合神经网络第一原理方法，AIChE期刊，38（1992），第1499-1511页。
[28] T.QIN、K.WU和。XIU，使用深度神经网络的数据驱动控制方程近似，J.Compute。物理。，395（2019），第620-635页·Zbl 1455.65125号
[29] L·拉希姆、S·布鲁姆、S·赖歇尔茨、P·西格伯格和d。SCHRAM，Zustandschätzung des Wankverhaltens von Personenkraftwagen mittels künstlicher neuronaler Netze，收录于《Zeiten der Veränderung的动员》，H.Proff主编，威斯巴登施普林格出版社，2019年，第229-239页。
[30] M.RAISSI、P.PERDIKARIS和ANDG。E.KARNIADAKIS，《基于物理的神经网络：解决涉及非线性偏微分方程的正问题和逆问题的深度学习框架》，J.Compute。物理。，378（2019），第686-707页·Zbl 1415.68175号
[31] M.RAISSI、P.PERDIKARIS和ANDG。E.KARNIADAKIS，《物理学通知的深度学习（第二部分）：非线性偏微分方程的数据驱动发现》，电子版arXiv:1711.105662017年11月。https://arxiv.org/abs/1711.10566
[32] J.R.罗尔·安迪。MADHURANATH，动力学系统参数估计的神经网络结构，IEE Proc-控制理论应用。，143（1996），第387-394页·兹伯利0863.93034
[33] D.RAVμM、C.WONG、F.DELIGIANNI、M.BERTHELOT、J.ANDREU-PEREZ、B.LO和g-杨振中，健康信息学深度学习，IEEE J.Biomed。健康信息。，21（2016），第4-21页。
[34] S.H.RUDY、A.ALLA、S.L.BRUNTON和ANDJ。N.KUTZ，参数偏微分方程的数据驱动识别，SIAM J.Appl。动态。系统。，18（2019），第643-660页·Zbl 1456.65096号
[35] S.H.RUDY、J.N.KUTZ和ANDS。L.BRUNTON，动力学深度学习和带时间步进约束的信号-噪声分解，J.Compute。物理。，396（2019），第483-506页·Zbl 1452.68170号
[36] C.SZEGEDY、W.LIU、Y.JIA、P.SERMANET、S.REED、D.ANGUELOV、D.ERHAN、V.VANHOUCKE和A.RABINOVICH，《卷积的深入研究》，《IEEE计算机视觉与模式识别会议论文集》，2015年6月，IEEE会议论文集，洛斯阿拉米托斯，2015年，第1-9页。
[37] F.TYAN、Y.-F.HONG、S.-H.TU、ANDW。S.JENG，《随机道路轮廓的生成》，《高级工程师杂志》，4（2009），第1373-1378页。
[38] J.YANG、J.LI和ANDG。LIN，一种用于动态土-结构相互作用分析的加速度数据集成的简单方法，土壤动力学。接地。《工程》，26（2006），第725-734页。
[39] J.YANG、M.N.NGUYEN、P.P.SAN、X.L.LI和ANDS。KRISHNASWAMY，人类活动识别多通道时间序列的深度卷积神经网络，《第24届国际人工智能会议论文集》，2015年，Q.Yang和M.Wooldridge编辑，AAAI出版社，Palo Alto，2015，第3995-4001页。
[40] B.YUE、J.FU和ANDJ。梁，用于学习序列表示的剩余递归神经网络，《信息》，9（2018），第56条，14页。
[41] M.ZENG、L.T.NGUYEN、B.YU、O.J.MENGSHOEL、J.ZHU、P.WU、ANDJ。张，使用移动传感器进行人类活动识别的卷积神经网络，第六届移动计算、应用和服务国际会议，IEEE会议记录，洛斯阿拉米托斯，2014年，第197-205页。
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。