×
马西娅·巴普蒂斯塔。;凯·戈贝尔;Elsa M.P.Henriques。

预测预测评估指标和局部可解释性SHAP值之间的关系。 （英语） Zbl 07505983号

Artif公司。智力。 306，文章ID 103667，22 p.（2022）.
概述：航空等领域的维修决策越来越依赖于能够预测部件和系统的故障。当数据驱动技术用于此预测任务时，由于感知到缺乏可解释性，它们经常面临不利因素。为了解决这个问题，本文研究了数据驱动预测方法中使用的特征如何与单调性、趋势性和可预测性的既定指标相关联。特别是，我们使用eXplainable人工智能（XAI）领域的SHAP模型（SHapley Additive exPlanations）来分析三种日益复杂的算法的结果：线性回归、多层感知器和回波状态网络。我们的目标是测试预测指标与SHAP模型解释相关的假设，即SHAP值。我们使用来自标准数据集的基线数据，该数据集包含数百个喷气发动机的运行到故障轨迹。结果表明，SHAP值与这些指标密切相关，在支持以下断言的模型之间观察到差异，即在预测中考虑可解释性时，模型复杂性是需要考虑的一个重要因素。

MSC公司：

68泰克 人工智能

关键词：

局部可解释性;模型生成可解释性;SHAP值;单调性;趋势性;可预测性

软件：

t-SNE公司;形状;标准LIME;梯度-CAM
PDF格式BibTeX公司 XML格式引用
\textit{M.L.Baptista}等人，Artif。智力。306，文章ID 103667，22 p.（2022；Zbl 07505983）
全文： 内政部

参考文献：

[1] Aas，K。；朱卢姆，M。；Löland，A.，《在特征相互依赖时解释个别预测：Shapley值的更准确近似值》，Artif。智力。，298，第103502条pp.（2021）·Zbl 1520.68136号
[2] 埃亨，我。；Noack，A。；Guzman-Nateras，L。；杜，D。；李，B。；Huan，J.，Normlime:解释深度神经网络的新特征重要性度量（2019），预印本
[3] Al-Shedivat，M。；杜贝，A。；Xing，E.P.，语境解释网络（2017），预印本
[4] 阿兰，G。；Bengio，Y.，《使用线性分类器探针了解中间层》（2016年），预印本
[5] Alvehag，K。；Soder，L.，《包含恶劣天气季节变化的配电系统可靠性模型》，IEEE Trans。电力输送。，26, 910-919 (2011)
[6] Amruthnath，N。；Gupta，T.，使用随机森林进行故障诊断的因子分析（2019年），预印本
[7] 安德鲁斯，R。；Diederich，J.等人。；Tickle，A.B.，《从经过训练的人工神经网络中提取规则的技术的调查与评论》，Knowl-基于系统。，8, 373-389 (1995)
[8] 阿里埃塔，A.B。；Díaz-Rodríguez，N。；Ser，J.D。；Bennetot，A。；Tabik，S。；Barbado，A。；加西亚，S。；Gil-Lopez，S。；莫利纳，D。；本杰明斯，R。；Chatila，R。；Herrera，F.，《可解释人工智能（XAI）：面向负责任人工智能的概念、分类、机遇和挑战》，Inf.Fusion，58，82-115（2020）
[9] Assche，A.V。；Blockeel，H.，《穿过树木看森林：从合奏中学习可理解的模型》（机器学习：ECML 2007（2007），施普林格-柏林-海德堡出版社），418-429
[10] Assilian，S.，《实际动态系统控制中的人工智能》（1974年），博士论文·Zbl 0272.68058号
[11] （Aven，T.；Zio，E.，《风险评估和管理知识》（2018），John Wiley&Sons，Ltd.）
[12] 巴赫，S。；粘合剂A。；蒙塔文，G。；Klauschen，F。；穆勒，K.R。；Samek，W.，《通过分层相关传播对非线性分类器决策的像素解释》，《公共科学图书馆·综合》，10，文章e0130140 pp.（2015）
[13] Baptista，M.L。；亨里克斯，E.M。；Goebel，K.，《肘点检测和深度学习的更有效预测》，机械。系统。信号处理。，146，第106987条pp.（2021）
[14] 北巴拉卡特。；Diederich，J.，《支持向量机的折衷规则提取》，国际计算机杂志。智力。，2, 59-62 (2005)
[15] 新罕布什尔州巴拉卡特。；Bradley，A.P.，《从支持向量机中提取规则：顺序覆盖方法》，IEEE Trans。知识。数据工程，19729-741（2007）
[16] 巴拉迪，P。；Bonfanti，G。；Zio，E.，用于定义故障诊断和预测健康指标的基于差分进化的多目标优化，机械。系统。信号处理。，102, 382-400 (2018)
[17] Benkedjouh，T。；Medjaher，K。；北卡罗来纳州泽霍尼。；Rechak，S.，使用支持向量数据描述的轴承故障预测，（2012年IEEE预测与健康管理会议（2012），IEEE）
[18] Bennetot，A。；Laurent，J.L。；查蒂拉，R。；Díaz-Rodríguez，N.，《走向可解释的神经-符号视觉推理》（NeSy Workshop IJCAI（2019））
[19] O.比兰。；Cotton，C.，《机器学习中的解释和论证：一项调查》（IJCAI-17可解释人工智能研讨会（XAI）（2017））
[20] 布伦德尔，W。；Bethge，M.，《使用袋装特征模型近似CNN在imagenet（2019年）上的效果出奇地好》，预印本
[21] Cannarile，F。；巴拉迪，P。；比较，M。；Borghi，D。；卡佩利，L。；Cocconcelli，M。；Lahrache，A。；Zio，E.，《用于评估包装行业所用刀具降解状态的无监督聚类方法》，（安全性和可靠性-理论和应用（2017），CRC出版社）
[22] 卡德·D。；张，M。；Smith，N.A.，深度加权平均分类器，（《公平、问责制和透明度会议论文集——FAT’19（2019）》，ACM出版社）
[23] 卡瓦略，D.V。；佩雷拉，E.M。；Cardoso，J.S.，《机器学习可解释性：方法和指标调查》，《电子学》，第8832期（2019年）
[24] 卡萨斯，L。；Klimmek，A。；纳瓦布，N。；Belagiannis，V.，编码器-解码器网络对抗性信号去噪（2018），预印本
[25] 陈，C。；Pecht，M.，使用基于模型和数据驱动的方法预测锂离子电池，（IEEE 2012年预测和系统健康管理会议论文集（PHM-2012北京）（2012），IEEE）
[26] 陈，C。；徐，T。；王，G。；Li，B.，《基于特征融合和遗传编程的铁路道岔系统RUL预测》，《测量》，151，第107162条，pp.（2020）
[27] 陈，J。；周，D。；Lyu，C。；Lu，C.，《基于LCD和t-SNE特征重构的旋转机械故障诊断方法》（Vibroengineering PROCEDIA，第11卷（2017）），40-45
[28] Chimatapu，R。；哈格拉斯，H。；斯塔基，A。；Owusu，G.，可解释人工智能和模糊逻辑系统，（自然计算理论与实践（2018），施普林格国际出版公司），3-20
[29] Cho，K。；van Merrienboer，B。；巴达瑙，D。；Bengio，Y.，《神经机器翻译的特性：编码器-解码器方法》（SSST-8第八届统计翻译中的句法、语义和结构研讨会论文集，计算语言学协会（2014））
[30] Chouikhi，N。；阿马尔，B。；Rokbani，北卡罗来纳州。；Alimi，A.M.，基于PSO的时间序列预测回波状态网络参数分析，应用。软计算。，5511-225（2017）
[31] Coble，J.，《融合数据源以识别最佳预测参数的自动化方法》（2010年），田纳西大学诺克斯维尔分校：田纳西州诺克斯威尔大学，博士论文，学位论文
[32] 科布，J。；Hines，J.W.，《从数据中识别最佳预测参数：遗传算法方法》（预测与健康管理学会年会（2009年））
[33] 科布，J。；Hines，J.W.，为基于个体的预测确定合适的退化参数，（工程系统诊断和预测（2013），IGI Global），135-150
[34] 克雷斯韦尔，A。；Bharath，A.A.，去噪对抗性自动编码器，IEEE Trans。神经网络。学习。系统。，30, 968-984 (2018)
[35] Daigle，M。；萨哈，B。；Goebel，K.，《基于过滤器的方法对基于模型的预测的比较》，（2012年IEEE航空航天会议（2012年），IEEE）
[36] Debayle，J。；Hatami，N。；Gavet，Y.，使用深度卷积神经网络对时间序列图像进行分类，（Zhou，J.；Radeva，P.；Nikolaev，D.；Verikas，A.，第十届机器视觉国际会议（ICMV 2017）（2018），SPIE）
[37] Dinsdag，H。；Jaeger，H.，《递归神经网络训练教程》，涵盖BPTT、RTRL、EKF和回波状态网络（2001），德国国家信息技术研究中心，技术报告
[38] El-Koujok，M。；Gouriveau，R。；Zerhouni，N.，《神经模糊自建预测系统：通过平衡复杂性和泛化确保良好预测准确性的方法》，（2010年预测和系统健康管理会议（2010），IEEE）
[39] Fellous，J.M。；萨皮罗，G。；罗西，A。；Mayberg，H。；Ferrante，M.，神经科学的可解释人工智能：行为神经刺激，前沿。神经科学。，13 (2019)
[40] 芬克，O。；Zio，E。；Weidmann，U.，用含时机器学习技术预测铁路速度限制的时间序列，专家系统。申请。，40, 6033-6040 (2013)
[41] 弗雷德里克·D·K。；DeCastro，J.A。；Litt，J.S.，《商用模块化航空推进系统仿真用户指南》（C-MAPSS）（2007），技术报告
[42] Freitas，A.A.，《可理解分类模型》，ACM SIGKDD Explor。新闻。，15, 1-10 (2014)
[43] 弗里德勒，S.A。；罗伊，C.D。；Scheidegger，C。；Slack，D.，评估机器学习模型的局部可解释性（2019年），预印本
[44] K.Goebel、M.J.Daigle、A.Saxena、I.Roychoudhury、S.Sankararaman、J.R.Celaya，《预测学：预测科学》，2017年。
[45] Goebel，K。；萨哈，B。；Saxena，A.，《三种数据驱动预测技术的比较》（机械故障预防技术学会第62届会议（2008）），119-131
[46] 古德费罗，I。；Pouget-Abadie，J。；米尔扎，M。；徐，B。；Warde-Farley，D。；Ozair，S。；科尔维尔，A。；Bengio，Y.，生成对抗性网络，（神经信息处理系统进展（2014）），2672-2680
[47] 古德曼，B。；Flaxman，S.，欧盟关于算法决策和“解释权”的规定，AI Mag.，38，50-57（2017）
[48] 戈亚尔，B。；Dogra，A。；阿格拉瓦尔，S。；Sohi，B。；Sharma，A.，《图像去噪综述：从经典到最先进的方法》，Inf.Fusion，55，220-244（2020）
[49] 顾J。；Tresp，V.，《解释对抗性攻击的显著性方法》（2019年），预印本
[50] 顾J。；Tresp，V.，深度神经网络的全局和局部解释语义（2019），预印本
[51] 顾J。；Yang，Y。；Tresp，V.，《通过对比反向传播理解CNN的个人决策》（Computer Vision-ACCV 2018（2019），Springer International Publishing），119-134
[52] 冈宁，D。；Aha，D.，DARPA的可解释人工智能（XAI）项目，AI Mag.，40，44-58（2019）
[53] Haig，B.D.，探索性数据分析（2018），牛津大学出版社
[54] 霍尔，P。；吉尔，N。；Kurka，M。；Phan，W.，《H2O无人驾驶人工智能的机器学习可解释性》（2017），H2O.AI
[55] He，D。；胡，N。；Wang，M.，基于AMESim和LabVIEW的机电液控制系统实时故障注入和仿真研究，（2014年预测和系统健康管理会议（PHM-2014湖南）（2014），IEEE）
[56] He，W。；何毅。；李，B。；Zhang，C.，基于联合交叉小波奇异熵和参数t-SNE的模拟电路故障诊断，熵，20，604（2018）
[57] He，W。；苗，Q。；阿扎里安，M。；Pecht，M.，基于小波滤波器的冷却风扇轴承健康监测，机械。系统。信号处理。，64149-161（2015年）
[58] Hind，M。；魏，D。；坎贝尔，M。；北卡罗来纳州Codella。；Dhurandhar，A。；Mojsilović，A。；Ramamurthy，K.N。；Varshney，K.R.，TED：教授人工智能以解释其决策，（2019年美国人工智能学会/美国医学会人工智能、道德与社会会议记录（2019），美国医学会）
[59] Hochreiter，S。；Schmidhuber，J.，长短期记忆，神经计算。，9, 1735-1780 (1997)
[60] S.R.Hong。；赫尔曼，J。；Bertini，E.，《模型可解释性中的人为因素：行业实践、挑战和需求》（《人机交互ACM会议录》，第4卷（2020年）），1-26
[61] 胡，Y。；Palmé，T。；Fink，O.，深度健康指标提取：一种基于自动编码器和极限学习机的方法，（PHM 2016。PHM 2016，丹佛，美国，2016年10月3-6日（2016年），PMH协会），446-452
[62] 黄，Q。；山田，M。；田，Y。；辛格博士。；尹，D。；Chang，Y.，Graphlime:图神经网络的局部可解释模型解释（2020），预印本
[63] 杰克林，S。；舒曼，J。；古普塔，P。；理查德，M。；Guenther，K。；Soares，F.，《航空航天应用学习系统认证用先进验证和确认程序及工具的开发》(Infotech@航空航天（2005年），美国航空航天研究所
[64] Jaeger，H.，《分析和训练递归网络的回波状态方法》（2001），德国国家信息技术研究中心，技术报告
[65] 贾拉利，A。；辛德勒，A。；Haslhofer，B。；Rauber，A.，《大修预测的机器学习可解释性技术：比较研究》（PHM Society European Conference（2020）），10
[66] 贾维德，K。；Gouriveau，R。；北卡罗来纳州泽霍尼。；Nectoux，P.，基于振动数据实现健康监测方法以实现准确预测，IEEE Trans。Ind.Electron公司。，62, 647-656 (2015)
[67] 约翰逊，M.J。；Duvenaud，D.K。；Wiltschko，A。；亚当斯·R·P。；Datta，S.R.，用神经网络构建图形模型以进行结构化表示和快速推理，（神经信息处理系统进展（2016）），2946-2954
[68] 卡尔，M。；索尔奇，M。；拜耳，J。；Van der Smagt，P.，《深度变分贝叶斯滤波器：从原始数据无监督学习状态空间模型》（2016年），预印本
[69] Keneni，B.M。；Kaur，D。；Bataineh，A.A。；Devabhaktuni，V.K。；贾维德，A.Y。；扎伊恩茨，J.D。；Marinier，R.P.，无人机基于规则的可解释人工智能进化，IEEE Access，717001-17016（2019）
[70] Kim，B。；鲁丁，C。；Shah，J.A.，贝叶斯案例模型：基于案例推理和原型分类的生成方法，（神经信息处理系统进展（2014）），1952-1960
[71] Kim，N.H。；安·D。；Choi，J.H.，预测模型属性研究，（工程系统的预测和健康管理：导论（2016），Springer国际出版公司），243-280
[72] Krishnan，R.G。；沙利特，美国。；Sontag，D.，Deep Kalman过滤器（2015），预印本
[73] 库卡卡，J。；戈尔科夫，V。；Cremers，D.，《深度学习的规范化：分类法》（2017），预印本
[74] 库尔卡尼，C.S。；Daigle，M。；Gorospe，G.S。；Goebel，K.，《基于模型的预测框架在低温试验台气动阀中的应用》（AIAA Infotech@Aerospace（2015），美国航空航天研究所）
[75] 昆都，P。；Darpe，A.K。；Kulkarni，M.S.，检测直齿轮自然点蚀进展的基于相关系数的振动指示器，机械。系统。信号处理。，129, 741-763 (2019)
[76] Kuwajima，H。；田中，M。；Okutomi，M.，《提高深层神经推理过程的透明度》，Prog。Artif公司。智力。，8, 273-285 (2019)
[77] 拉尔，P。；Thomas，T.，基于PCA和ICA的电子组件同时承受温度振动载荷的预测健康监测，（ASME 2017年电子和光子微系统封装与集成国际技术会议和展览（2017），美国机械工程师学会）
[78] Lasheras，F。；尼托，P。；de Cos Juez，F。；R·贝翁。；Suárez，V.，基于PCA CART MARS的飞机发动机剩余使用寿命预测方法，传感器，157062-7083（2015）
[79] LeCun，Y。；Y.本吉奥。；Hinton，G.，《深度学习》，《自然》，521436-444（2015）
[80] Lee，N。；阿扎里安，M.H。；Pecht，M.G.，《旋转机械基于深度学习的可解释预测模型》（2020年），预印本
[81] 雷，Y。；李，N。；郭，L。；李，N。；Yan，T。；Lin，J.，《机械健康预测：从数据采集到RUL预测的系统综述》，机械。系统。信号处理。，104, 799-834 (2018)
[82] Li，X.，使用模糊多模态极值学习回归预测轴承的剩余使用寿命，（2017年传感、诊断、预测和控制国际会议（SDPC）（2017），IEEE）
[83] 李，X。；丁，Q。；Sun，J.Q.，使用深度卷积神经网络进行预测中的剩余使用寿命估计，Reliab。工程系统。安全。，172, 1-11 (2018)
[84] Lipton，Z.C.，《模型可解释性的神话》，Commun。ACM，61，36-43（2018）
[85] 伦德伯格，S.M。；Lee，S.I.，《解释模型预测的统一方法》，（Guyon，I.；Luxburg，U.V.；Bengio，S.；Wallach，H.；Fergus，R.；Vishwanathan，S.，Garnett，R.，《神经信息处理系统的进展》，第30卷（2017），Curran Associates，Inc.），4765-4774
[86] Maaten，L.v.d。；Hinton，G.，《使用t-SNE可视化数据》，J.Mach。学习。第92579-2605号决议（2008年）·兹比尔1225.68219
[87] Madikermi，M。；Malhi，A.K。；Främling，K.，可解释的基于人工智能的空气处理装置热回收器故障检测，（计算机科学讲义（2019），施普林格国际出版），110-125
[88] Mamdani，E。；《用模糊逻辑控制器进行语言综合的实验》，国际J·曼·马赫出版社。螺柱，7，1-13（1975）·Zbl 0301.68076号
[89] Martens，D。；Baesens，B。；Gestel，T.V。；Vantheinen，J.，使用支持向量机规则提取的可理解信用评分模型，SSRN Electron。J.（2006）
[90] 梅利斯，D.A。；Jaakkola，T.，《利用自解释神经网络实现稳健解释》，（神经信息处理系统进展（2018）），7775-7784
[91] Mencar，C.，《模糊系统的可解释性》（fuzzy Logic and Applications，2013），Springer International Publishing，22-35
[92] Miller，T.，《人工智能解释：来自社会科学的见解》，Artif。智力。，267, 1-38 (2019) ·Zbl 1478.68274号
[93] Ming，Y。；Qu，H。；Bertini，E.，《规则矩阵：用规则可视化和理解分类器》，IEEE Trans。视觉。计算。图表。，25, 342-352 (2019)
[94] 米什拉，M。；Martinsson，J。；Rantatalo，M。；Goebel，K.，《基于贝叶斯层次模型的锂离子电池预测》，Reliab。工程系统。安全。，17225-35（2018）
[95] 莫兰多，S。；Jemei，S。；Gouriveau，R。；北卡罗来纳州泽霍尼。；Hissel，D.，《利用回声状态网络预测燃料电池》（IECON 2013-IEEE工业电子学会第39届年会（2013），IEEE）·Zbl 07313740号
[96] Mosallam，A。；Medjaher，K。；Zerhouni，N.，《工业预测和健康管理的非参数时间序列建模》，国际先进制造技术杂志。，69, 1685-1699 (2013)
[97] 纳塞里，M。；巴拉迪，P。；比较，M。；Zio，E.，《在动态北极气候条件下运行的石油和天然气加工厂的可用性评估》，Reliab。工程系统。安全。，152, 66-82 (2016)
[98] Niknam，美国。；Kobza，J。；Hines，J.W.，《基于降解的预测趋势分析技术》，国际先进制造技术杂志。，882429-2441（2016）
[99] Papernot，N。；McDaniel，P.，Deep k最近邻居：走向自信、可解释和强大的深度学习（2018），预印本
[100] 彭，L。；Huang，Y.，具有时间协变量效应的生存分析，Biometrika，94719-733（2007）·Zbl 1135.62080号
[101] 彭，Y。；Wang，H。；Wang，J。；刘博士。；Peng，X.，基于修正回波状态网络的剩余寿命估算方法，（2012年IEEE预测与健康管理会议（2012年），IEEE）
[102] 波波夫，A。；芬克，W。；Hess，A.，航天员PHM——一种新的应用，（预测与健康管理学会年会（2013）），566-572
[103] Pouyanfar，S。；Sadiq，S。；Yan，Y。；Tian，H。；Tao，Y。；Reyes，M.P。；Shyu，M.L。；陈S.C。；Iyengar，S.S.，深度学习调查，ACM Compute。调查。，51, 1-36 (2019)
[104] 邱，G。；顾毅。；Chen，J.，利用遗传算法和Weibull比例风险模型预测轴承整体剩余使用寿命的选择性健康指标，测量，150，第107097页，（2020）
[105] Rabold，J。；Deininger，H。；Siebers，M。；Schmid，U.，《丰富关系概念的视觉和口头解释——将LIME与aleph相结合》，（机器学习和数据库中的知识发现（2020），施普林格国际出版），180-192
[106] E.Ramasso，A.Saxena，《cmaps数据集的性能基准和预测方法分析》，2014年。
[107] 里贝罗，M.T。；辛格，S。；Guestrin，C.，机器学习的模型认知解释性（2016），91-95
[108] 里贝罗，M.T。；辛格，S。；Guestrin，C.，“我为什么要相信你？”：解释任何分类器的预测，（第22届ACM SIGKDD国际知识发现和数据挖掘会议（2016），ACM）
[109] Rigamonti，M。；巴拉迪，P。；Zio，E。；罗伊乔杜里，I。；Goebel，K。；Poll，S.，剩余使用寿命预测的优化回波状态网络集成，神经计算，28121-138（2018）
[110] Rigamonti，M。；巴拉迪，P。；Zio，E.，涡扇发动机剩余使用寿命预测的Echo状态网络，（欧洲预测与健康管理学会会议（PHME）（2016）），255-270
[111] 罗切塔，R。；李毅。；Zio，E.，《考虑极端天气条件的分布式发电系统的风险评估和风险成本优化》，Reliab。工程系统。安全。，136, 47-61 (2015)
[112] Rudy，S.H。；布伦顿，S.L。；Proctor，J.L。；Kutz，J.N.，偏微分方程的数据驱动发现，科学。高级，3，文章e1602614 pp.（2017）
[113] 赛迪，L。；阿里·J·B。；Bechhoefer，E。；Benbouzid，M.，《通过谱峭度衍生指数和SVR对风力涡轮机高速轴轴承的健康预测》，Appl。灰尘。，120, 1-8 (2017)
[114] 萨拉赫，S.B。；弗利斯，I。；Tagina，M.，用于复杂系统预测的回波状态网络和粒子群优化，（2017 IEEE/ACS第14届国际计算机系统与应用会议（AICCSA）（2017），IEEE）
[115] Saxena，A。；塞拉亚，J。；巴拉班，E。；Goebel，K。；萨哈，B。；萨哈，S。；Schwabacher，M.，《预测技术性能评估指标》，（国际预测与健康管理会议（2008），IEEE），1-17
[116] Saxena，A。；塞拉亚，J。；萨哈，B。；萨哈，S。；Goebel，K.，《预测性能离线评估指标》，实习生。J.程序。健康管理。，1, 4-23 (2010)
[117] Saxena，A。；Goebel，K。；西蒙，D。；Eklund，N.，飞机发动机运行至故障模拟的损伤传播模型，（国际预测与健康管理会议（2008），IEEE），1-9
[118] Schober，P。；波尔，C。；Schwarte，L.A.，相关系数，Anesth。分析。，126, 1763-1768 (2018)
[119] Selvaraju，R.R。；Cogswell，M。；Das，A。；韦丹坦，R。；Parikh，D。；Batra，D.，Grad-CAM:通过基于梯度的本地化从深层网络中进行可视化解释，（2017年IEEE国际计算机视觉会议（ICCV）（2017年），IEEE）
[120] Shankaranarayana，S.M。；Runje，D.，ALIME:基于自动编码器的本地可解释性方法，（智能数据工程和自动学习-IDEAL 2019（2019），施普林格国际出版公司），454-463
[121] Shapley，L.S.，n人博弈的一个值，Contrib.理论博弈，2307-317（1953）·Zbl 0050.14404号
[122] 她，D。；Jia，M.，基于指数衰减学习率多通道深度卷积神经网络的滚动轴承磨损指标构建，测量，135，368-375（2019）
[123] Shrikumar，A。；格林塞德，P。；Kundaje，A.，《通过传播激活差异学习重要特征》，（第34届机器学习国际会议（2017）），3145-3153，JMLR.org
[124] Simonyan，K。；Vedaldi，A。；Zisserman，A.，《深层卷积网络：可视化图像分类模型和显著性图》（2013），预印本
[125] 苏莱曼尼，M。；坎皮恩，F。；Neagu，D.，《复杂系统的诊断和预测：方法和挑战综述》，Qual。Reliab公司。工程国际（2021）
[126] Song，W。；Wen，L。；高，L。；Li，X.，基于迭代多流形谱聚类的无监督故障诊断方法，（IET Collaborative Intelligent Manufacturing，vol.1（2019）），48-55
[127] 斯普林伯格，J.T。；Dosovitskiy，A。；布罗克斯，T。；Riedmiller，M.，《追求简单：全卷积网络》（2014），预印本
[128] Štrumbelj，E。；Kononenko，I.，《用特征贡献解释预测模型和个人预测》，Knowl。信息系统。，41, 647-665 (2013)
[129] Sundararajan，M。；Taly，A。；Yan，Q.，深度网络公理化归因，（第34届机器学习国际会议论文集，第70卷（2017）），3319-3328，JMLR.org
[130] 苏西洛，D.D。；Widodo，A。；Prahasto，T。；Nizam，M.，基于特征重要性和状态空间模型的电机轴剩余使用寿命估算，（第六届可持续能源和先进材料国际会议和展览论文集（2020年），施普林格：施普林格新加坡），675-688
[131] Tjoa，E。；关，C.，《关于可解释人工智能（XAI）的调查：针对医学XAI》，IEEE Trans。神经网络。学习。系统。，1-21 (2020)
[132] Union，E.，Date subjects’s rights，（欧盟通用数据保护条例（GDPR）（2019），IT Governance Publishing），第62-77页
[133] 维哈罗斯，Z。；Kis，K.，《神经模糊系统及其在技术诊断和测量中的应用综述》，measurement，67126-136（2015）
[134] Wang，J。；李，Z。；李，X。；Zhao，Y.，使用回声状态网络的锂离子电池SOH预测新框架，（神经信息处理国际会议（2014），Springer），438-445
[135] 威尔金森，C。；林奇，J。；巴拉德瓦吉，R。；Woodham，K.，《自适应系统验证》（2016），联邦航空管理局，DOT/FAA/TC-16/4
[136] 谢毅。；冯博士。；Wang，F。；唐，X。；Han，J。；Zhang，X.，DFPE：解释磁盘故障预测的预测模型，（2019年第35届大规模存储系统和技术研讨会（2019），IEEE）
[137] 杨，C。；乔，J。；Z.艾哈迈德。；聂，K。；Wang，L.，用于时间序列预测的带有稀疏RLS算法的在线序列回波状态网络，神经网络。(2019) ·Zbl 1441.62213号
[138] L.永祥。；建明，S。；龚·W。；Xiaodong，L.，基于主成分和实例学习的RUL数据驱动预测方法，（2016年IEEE国际预测与健康管理会议（ICPHM）（2016），IEEE）
[139] Zadeh，L.，模糊集，信息控制，8，338-353（1965）·Zbl 0139.24606号
[140] Zafar，M.R。；Khan，N.M.，DLIME:计算机辅助诊断系统的确定性局部可解释模型-认知解释方法（2019年），预印本
[141] Zeldam，S.，使用可解释人工智能（XAI）进行航空维修中的自动故障诊断（2018），特温特大学，硕士论文
[142] Zerilli，J。；Knott，A。；麦克劳林，J。；Gavaghan，C.，算法和人类决策的透明度：是否存在双重标准？，菲洛斯。技术。，32, 661-683 (2018)
[143] 张，C。；Bengio，S。；Hardt，M。；Recht，B。；Vinyals，O.，理解深度学习需要重新思考泛化（2016），预印本
[144] 张，L。；林，J。；刘，B。；张，Z。；严，X。；Wei，M.，《深度学习在预测和健康管理中的应用综述》，IEEE Access，7162415-162438（2019）
[145] 张，Q。；Wu，Y.N。；Zhu，S.C.，可解释卷积神经网络，（2018 IEEE/CVF计算机视觉和模式识别会议（2018），IEEE）
[146] 张，X。；Xu，R。；关，C。；Liang，S。；谢，Q。；Haynes，L.，《轴承故障诊断和预测的综合方法》（2005年美国控制会议论文集（2005），IEEE）
[147] 郑S。；贾亚苏马纳，S。；罗梅拉·佩雷斯，B。；维尼特，V。；苏，Z。；杜，D。；黄，C。；Torr，P.H.，条件随机场作为递归神经网络，（IEEE国际计算机视觉会议（2015）），1529-1537
[148] Zhou，Z.H。；姜瑜。；Chen，S.F.，从训练好的神经网络集成中提取符号规则，AI Commun。，16, 3-15 (2003) ·Zbl 1102.68609号
[149] Zio，E.，《工业设备的预测和健康管理》，（工程系统的诊断和预测（2013），IGI Global），333-356
[150] 齐奥，E。；Maio，F.D.，一种数据驱动的模糊方法，用于预测核系统动态失效场景中的剩余使用寿命，Reliab。工程系统。安全。，95, 49-57 (2010)
[151] Zio，E。；Maio，F.D。；Stasi，M.，《预测核系统故障场景的数据驱动方法》，Ann.Nucl。能源，37482-491（2010）
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。