×

基于深核多项式混沌展开的高维不确定性传播的替代建模。 (英语) Zbl 1525.68134号

摘要:本文提出了深核多项式混沌展开(DKPCE)作为高维不确定性传播的替代模型。首先,将深度神经网络(DNN)和多项式混沌展开(PCE)相结合,建立一种新的网络模型,通过限制特征层中神经元的数量来控制PCE层的输入维数。然后,采用反向传播算法来计算DKPCE的所有参数,从而同时执行DKPCE的降维和建模过程。在建模过程中,首先采用数据驱动方法在正向传播步骤中计算PCE层内的正交多项式基,在反向传播步骤中首先计算正交多项式基系数的偏导数。构造DKPCE后,可以利用PCE层的系数计算系统响应的统计特性。最后,通过几个数值算例验证了DKPCE的有效性。

MSC公司:

2017年10月68日 人工神经网络与深度学习
33立方厘米 超几何型正交多项式和函数(Jacobi、Laguerre、Hermite、Askey格式等)
65C20个 概率模型,概率统计中的通用数值方法
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] Shi,Y。;Lu,Z.Z。;Xu,L.Y。;Chen,S.Y.,时间相关可靠性分析的自适应多重克立格替代法,应用。数学。型号。,70, 545-571 (2019) ·Zbl 1464.62411号
[2] 郭,X。;Jin,Y.F.,混合不确定性柔性多体系统的新算法,应用。数学。型号。,113, 573-595 (2023) ·Zbl 1505.65226号
[3] Li,M.Y。;Wang,Z.Q.,不确定性下设计优化的潜在适应性深度可靠性学习,计算。方法应用。机械。工程,397,第115130条pp.(2022)·Zbl 1507.68270号
[4] Xu,Y.W。;Renteria,A。;Wang,P.F.,具有部分观测信息的自适应代理模型,Reliab。工程系统。安全。,225,第108566条,第(2022)页
[5] Liu,J.F。;江,C。;郑,J.,通过贝叶斯深度神经网络解决高维黑盒问题的不确定性传播方法,结构。多磁盘。最佳。,65,3,第83条pp.(2022)
[6] Tripathy,R。;Bilinis,I。;Gonzalez,M.,《内置降维的高斯过程:应用于高维不确定性传播》,J.Compute。物理。,321, 191-223 (2016) ·兹比尔1349.65049
[7] Wang,F。;熊,F。;姜浩。;Song,J.,用于不确定性传播的增强型数据驱动多项式混沌方法,工程优化。,50, 2, 273-292 (2018)
[8] 太阳,X。;Choi,Y.Y。;Choi,J.-I.,使用多项式混沌替代模型进行多元输出的全局敏感性分析,应用。数学。型号。,82, 867-887 (2020) ·Zbl 1481.62042号
[9] 吕塞恩,N。;马雷利,S。;Sudret,B.,《稀疏多项式混沌展开:文献综述和基准》,SIAM/ASA J.不确定性。数量。,9, 2, 593-649 (2021) ·Zbl 1464.65008号
[10] Fajraoui,N。;马雷利,S。;Sudret,B.,稀疏多项式混沌展开实验的顺序设计,SIAM/ASA J.不确定性。数量。,1061-1085年5月1日(2017年)·Zbl 06861783号
[11] Li,M.Y。;Wang,Z.Q.,用于高维可靠性分析的深度学习,机械。系统。信号处理。,139,第106399条pp.(2020)
[12] Sadoughi,M.K。;李,M。;胡,C。;MacKenzie,C.A。;Lee,S.,在Eshghi。不确定性下基于仿真设计的高维可靠性分析方法,J.Mech。设计。,140, 7 (2018)
[13] Yin,J.H。;Du,X.P.,考虑重要和不重要输入变量的高维可靠性方法,J.Mech。设计。,144, 4 (2021)
[14] 李,M。;Sadoughi,M。;胡,C。;胡,Z。;Eshghi,A.T。;Lee,S.,基于高维可靠性的设计优化,涉及高度非线性约束和计算昂贵的模拟,J.Mech。设计。,141, 5 (2019)
[15] C.Lataniotis、S.Marelli和B.Sudret。通过监督降维将经典代理建模扩展到超高维问题:一种数据驱动的方法。ArXiv预印ArXiv:1812.063092018·Zbl 1498.62109号
[16] Bishop,C.M.,模式识别和机器学习(2006),springer·Zbl 1107.68072号
[17] Minka,T.P.,pca维数的自动选择,(神经信息处理系统学报(2000)),598-604
[18] 季永新。;北卡罗来纳州肖。;Zhan,H.,基于自适应克里格和降维技术组合的高维可靠性分析,Qual。Reliab公司。工程国际,38,5,2566-2585(2022)
[19] Yin,J.H。;Du,X.P.,高维可靠性分析的广义切片逆回归主动学习,94,第102151页,(2022),结构安全
[20] 刘海波。;江,C。;Xiao,Z.,使用基于稀疏分解的多项式混沌展开的参数化p-box的有效不确定性传播,Mech。系统。信号处理。,138,第106589条pp.(2020)
[21] 邵,Q。;Younes,A。;法赫斯,M。;Mara,T.A.,全局灵敏度分析的贝叶斯稀疏多项式混沌展开,计算。方法应用。机械。工程,318,474-496(2017)·Zbl 1439.62088号
[22] 周Y.C。;卢,Z.Z。;胡建华。;Hu,Y.S.,通过数据驱动多项式混沌展开和稀疏偏最小二乘法对高维问题进行代理建模,计算。方法应用。机械。Eng.,364,第112906条,第(2020)页·Zbl 1442.65437号
[23] LeCun,Y。;Y.本吉奥。;Hinton,G.,《深度学习》,《自然》,521,7553,436-444(2015)
[24] Ghahramani,Z.,概率机器学习和人工智能,《自然》,521,7553,452-459(2015)
[25] 辛顿,G.E。;Salakhutdinov,R.R.,《用神经网络降低数据的维数》,《科学》,3135786504-507(2006)·Zbl 1226.68083号
[26] Krizhevsky,A。;Sutskever,I。;Hinton,G.E.,用深度卷积神经网络进行Imagenet分类,(神经信息处理系统进展论文集(2012)),1097-1105
[27] 辛顿,G。;邓,L。;Yu,D。;Dahl,G。;穆罕默德,A-r;北卡罗来纳州贾特利。;高级,A。;Vanhoucke,V。;Nguyen,P。;Kingsbury,B.,语音识别中声学建模的深度神经网络,IEEE信号处理杂志,29(2012)
[28] 王,Q。;塔尔,C.H。;Fink,O.,《将专家知识与无监督故障诊断的领域适应相结合》,IEEE Trans。仪器。测量。,71, 1-12 (2021)
[29] 古德费罗,I。;Y.本吉奥。;A.Courville,《深度学习》(2016),麻省理工学院出版社·兹比尔1373.68009
[30] Bourrad,H.(波拉德,H.)。;Kamp,Y.,多层感知器和奇异值分解的自动关联,Biol。赛博。,59, 4, 291-294 (1988) ·Zbl 0651.92006号
[31] 辛顿,G.E。;Salakhutdinov,R.R.,使用深信度网学习高斯过程的协方差核,(神经信息处理系统学报(2007)),1249-1256
[32] 威尔逊,A.G。;胡,Z。;Salakhutdinov,R。;Xing,E.P.,深核学习(《国际人工智能与统计会议论文集》(2016)),370-378
[33] Rumelhart,D.E。;辛顿,G.E。;Williams,R.J.,《通过反向传播错误学习表征》,《自然》,3236088696-699(1988)
[34] B.W.西尔弗曼。统计和数据分析的密度估计。英国皇家统计学会学报c辑应用统计学,1986,37(1):120-121·Zbl 0617.62042号
[35] Scott,D.W.,《内核密度估算》,1-7(2018),Wiley StatsRef:在线统计参考
[36] 范伯格,J。;埃克·V·G。;Langtangen,H.P.,带因变量的多元多项式混沌展开,SIAM J.Sci。计算。,40, 1 (2018) ·Zbl 1379.60075号
[37] 秀,D。;Karniadakis,G.E.,随机微分方程的维纳关键多项式混沌,SIAM J.Sci。计算。,24, 2, 619-644 (2002) ·Zbl 1014.65004号
[38] 秀,D。;Karniadakis,G.E.,通过广义多项式混沌建模流动模拟中的不确定性,J.Compute。物理。,187, 1, 137-167 (2003) ·Zbl 1047.76111号
[39] Wittevien,J.A.S.,《美国医学会杂志》。;Bijl,H.,使用gram-schmidt多项式混沌建模任意不确定性,(第44届AIAA航空航天科学会议论文集和展览(2006)),896
[40] Kroese,D.P。;Taimre,T。;Botev,Z.I.,《蒙特卡罗方法手册》(2013),John Wiley&Sons
[41] D.W.斯科特。多元密度估计:理论、实践和可视化。1992. ·Zbl 0850.62006号
[42] Wand,M.P。;Jones,M.C.,二元核密度估计中平滑参数化的比较,美国统计协会,88,422,520-528(1993)·Zbl 0775.62105号
[43] Paulson,J.A。;Buehler,E.A。;Mesbah,A.,动态系统中相关随机变量不确定性传播的任意多项式混沌,50,3548-3553(2017),Ifac papersonline
[44] 格洛洛特,X。;Bordes,A。;Bengio,Y.,深度稀疏整流器神经网络,(《国际人工智能与统计会议论文集》,15(2011),315-323
[45] Kingma,D.P。;Ba,J.L.,Adam:一种随机优化方法,(《国际学习表征大会论文集》(2015))
[46] S.Rao,求解二维热扩散方程的有限差分法(https://www.Mathworks.Com/matlabcentral/fileexchange/42604-finite-difference-method-to-solve-thet-diffusion-equation-in-two-dimensions),MATLAB中央文件交换,2020年。
[47] 苏德雷特,B。;Der Kiureghian,A.,《随机有限元方法与可靠性:现状报告》(2000),土木与环境工程系,加州大学伯克利分校
[48] Bergstra,J。;Bengio,Y.,《超参数优化的随机搜索》,J.Mach。学习。第13号决议,1281-305(2012年)·Zbl 1283.68282号
[49] 斯普林伯格,J.T。;克莱因,A。;福克纳,S。;Hutter,F.,《使用稳健贝叶斯神经网络的贝叶斯优化》,4134-4142(2016),《神经信息处理系统的进展》
[50] Liu,J.F。;江,C。;Zheng,J.,通过自适应局部搜索进行批量贝叶斯优化,应用。智力。,51, 3, 1280-1295 (2021)
[51] Wang,Z.Q。;Wang,P.F.,无灵敏度动态可靠性分析的双回路自适应采样方法,Reliab。工程系统。安全。,142, 346-356 (2015)
[52] Wang,Z.Q。;Wang,P.F.,基于时间依赖可靠性的设计优化的嵌套极值响应面方法,J.Mech。设计。,134, 12 (2012)
[53] 郑,Z。;戴,H。;Wang,Y。;Wang,W.,《模拟非平稳非高斯随机过程的基于样本的迭代方案》,151,第107420页(2021),机械系统和信号处理
[54] Zhang,J.H。;肖,M。;Gao,L.,基于可靠性的设计优化的一种新的基于局部更新的方法,工程计算。,37, 4, 3591-3603 (2021)
[55] Chen,L.M。;邱海斌。;高,L。;江,C。;Yang,Z.,一种用于高维问题的基于屏幕的梯度增强kriging建模方法,应用。数学。型号。,69, 15-31 (2019) ·Zbl 1470.74069号
[56] 刘,Y。;左,M.J。;李永福。;Huang,H.Z.,利用系统级检查数据对多状态系统进行动态可靠性评估,IEEE Trans。信实。,64, 1287-1299 (2015)
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。