×
托拜厄斯·拉德纳;马蒂亚斯·阿尔霍夫

使用灵敏度分析的神经网络验证中的自动抽象细化。 （英语） Zbl 07807959号

第26届ACM混合系统国际会议论文集：计算与控制，HSCC 2023，第16届CPS-IoT周，美国德克萨斯州圣安东尼奥，2023年5月9日至12日。纽约州纽约市：计算机协会（ACM）。第18号论文，第13页（2023年）。

MSC公司：

65年第68季度 形式语言和自动机
60年第68季度 规范和验证（程序逻辑、模型检查等）
93立方 由微分方程以外的函数关系控制的控制/观测系统（如混合系统和开关系统）

关键词：

神经网络;自动抽象细化;形式验证;多项式带状疱疹。;敏感性分析;基于集合的计算

软件：

马拉布;JuliaReach公司;Reluplex公司;NNV公司
PDF格式BibTeX公司 XML格式引用
\textit{T.Ladner}和\textit{M.Althoff}，in：第26届ACM混合系统国际会议论文集：计算和控制，HSCC 2023，第16届CPS-IoT周的一部分，美国德克萨斯州圣安东尼奥，2023年5月9日至12日。纽约州纽约市：计算机协会（ACM）。第18号论文，第13页（2023；Zbl 07807959）
全文： 内政部 链接

参考文献：

[1] 马蒂亚斯·阿尔霍夫。2010年。可达性分析及其在自动驾驶汽车安全评估中的应用。博士论文。慕尼黑理工大学。
[2] 马蒂亚斯·阿尔霍夫。2015年CORA 2015简介。程序中。连续和混合系统应用验证研讨会。120-151.
[3] Stanley Bak、Changliu Liu和Taylor T.Johnson。2021.第二次神经网络国际验证竞赛（VNN-COMP 2021）：总结和结果。arXiv预印arXiv:2109.00498（2021）。
[4] 奥斯伯特·巴斯塔尼（Osbert Bastani）、亚尼·约阿诺（Yani Ioannou）、列奥尼达斯·兰普洛斯（Leonidas Lampropoulos）、迪米特里奥斯·维蒂尼奥蒂斯（Dimitrios Vytiniotis）、阿迪蒂亚·诺里（Aditya Nori）和安东尼奥·克里米尼（Antonio Criminisi。2016.测量带有约束的神经网络鲁棒性。《神经信息处理系统进展》29（2016）。
[5] 兰德尔·W·比尔德。2008年。四轮驱动动力学和控制。杨百翰大学19，3（2008），46-56。
[6] 克里斯托弗·毕晓普（Christopher M.Bishop）和纳赛尔·纳斯拉巴迪（Nasser M.Nasrabadi）。2006.模式识别和机器学习。第4卷。斯普林格·Zbl 1107.68072号
[7] Sergiy Bogomolov、Marcelo Forets、Goran Frehse、Kostiantyn Potomkin和Christian Schilling。2019.JuliaReach：基于集合的可达性工具箱。第22届ACM混合系统国际会议论文集：计算与控制·Zbl 07120139号
[8] Elena Botoeva、Panagiotis Kouvaros、Jan Kronqvist、Alessio Lomuscio和Ruth Misener。2020.通过依赖性分析对基于relu的神经网络进行有效验证。《AAAI人工智能会议论文集》，第34卷。3291-3299.
[9] 鲁迪·布内尔、P.穆迪戈达、伊尔克·图尔卡斯兰、菲利普·托尔、卢靖岳和普希米特·科利。2020年，分段线性神经网络验证的分支和边界。《机器学习研究杂志》2020年第21期（2020年）·Zbl 1498.68153号
[10] Edmund Clarke、Orna Grumberg、Somesh Jha、Yuan Lu和Helmut Veith。2000.反例引导的抽象细化。在计算机辅助验证国际会议上。施普林格，154-169·Zbl 0974.68517号
[11] Timon Gehr、Matthew Mirman、Dana Drachsler-Cohen、Petar Tsankov、Swarat Chaudhuri和Martin Vechev。2018.Ai2：具有抽象解释的神经网络的安全性和稳健性认证。2018年IEEE安全与隐私研讨会（SP）。IEEE，3-18。
[12] 安托万·吉拉德。2005.使用区域图的不确定线性系统的可达性。在混合系统：计算和控制国际研讨会上。施普林格，291-305·Zbl 1078.93005号
[13] 伊恩·古德费罗（Ian Goodfellow）、乔纳森·希伦（Jonathon Shlens）和克里斯蒂安·塞格迪（Christian Szegedy）。2015.解释和利用对抗性示例。在学习代表国际会议上。
[14] 帕特里克·亨利克森和阿莱西奥·洛穆西奥。2020年。通过自适应细化和对抗性搜索进行高效的神经网络验证。在ECAI 2020中。IOS出版社，2513-2520。
[15] 库尔特·霍尼克（Kurt Hornik）、麦克斯韦尔·斯汀科姆（Maxwell Stinchcombe）和哈尔伯特·怀特（Halbert White）。1989年。多层前馈网络是通用逼近器。神经网络2，5（1989），359-366·Zbl 1383.92015年
[16] 黄超、范嘉萌、陈欣、李文超、朱琦。2022.POLAR：用于验证神经网络控制系统的多项式算法框架。验证和分析自动化技术。施普林格国际出版公司，414-430。
[17] 黄晓伟、玛塔·奎亚特科夫斯卡、王森和吴敏。2017.深度神经网络的安全验证。在国际计算机辅助验证会议上。施普林格，3-29·Zbl 1494.68166号
[18] 拉多斯拉夫·伊万诺夫（Radoslav Ivanov）、泰勒·卡彭特（Taylor Carpenter）、詹姆斯·魏默（James Weimer）、拉杰夫·阿鲁尔（Rajeev Alur）、乔治·帕帕斯（George Pappas）和因苏普·李。2021.Verisig 2.0：使用泰勒模型预处理验证神经网络控制器。在计算机辅助验证国际会议上。施普林格，249-262·Zbl 1493.68211号
[19] 斯蒂芬·约翰逊。1974年。稀疏多项式算法。ACM SIGSAM公告8，3（1974），63-71。
[20] Taylor T.Johnson、Diego Manzanas Lopez、Luis Benet、Marcelo Forets、Sebastián Guadalupe、Christian Schilling、Radoslav Ivanov、Taylor J.Carpenter、James Weimer和Insup Lee。2021.ARCH-COMP21类别报告：连续和混合系统电厂的人工智能和神经网络非控制系统（AINNCS）。计算中的EPiC系列80（2021），90-119。
[21] 盖伊·卡茨（Guy Katz）、克拉克·巴雷特（Clark Barrett）、大卫·L·迪尔（David L Dill）、凯尔·朱利安（Kyle Julian）和米克尔·J·科钦德费尔（Mykel J.Kochenderfer）。2017.Reluplex：用于验证深层神经网络的高效SMT解算器。在计算机辅助验证国际会议上。施普林格，97-117·Zbl 1494.68167号
[22] Guy Katz、Derek A.Huang、Duligur Ibeling、Kyle Julian、Christopher Lazarus、Rachel Lim、Parth Shah、Shantanu Thakoor、Haoze Wu、Aleksandar Zeljić，2019年。用于验证和分析深层神经网络的marabou框架。在计算机辅助验证国际会议上。施普林格，443-452。
[23] Niklas Kochdumper。2022.多项式分区的扩展及其在网络物理系统验证中的应用。博士论文。慕尼黑理工大学。
[24] Niklas Kochdumper和Matthias Althoff。2020年。稀疏多项式分区：可达性分析的新集合表示。IEEE传输。自动化。控制66，9（2020），4043-4058·Zbl 1471.93026号
[25] Niklas Kochdumper、Christian Schilling、Matthias Althoff和Stanley Bak。2022.使用多项式分区图进行开环和闭环神经网络验证。arXiv预打印arXiv:2207.02715（2022）。
[26] Niklas Kochdumper、Bastian Schurmann和Matthias Althoff。2020年。利用依赖关系获得可达集的子集。第23届混合系统国际会议论文集：计算与控制。1-10. ·兹伯利07300842
[27] 安娜·凯瑟琳·科佩茨基（Anna Kathrin Kopetzki）和斯蒂芬·格内曼（Stephan Günnemann）。2021.可达到的分类器和回归模型集：（非）稳健性分析和稳健性训练。机器学习110，6（2021），1175-1197·Zbl 07432833号
[28] 刘长流，托默·阿诺恩，克里斯托弗·拉扎罗斯，克里斯托弗·斯特朗，克拉克·巴雷特，麦克尔·J·科钦德费尔，2021年。验证深层神经网络的算法。Foundations and Trends®in Optimization优化中的基础与趋势4，3-4（2021），244-404。
[29] Kyoko Makino和Martin Berz。2005.使用基于泰勒模型的范围边界验证了全局优化。《计算机学报》11，4（2005），1611-1618·Zbl 1133.65045号
[30] 黛巴斯米塔·穆克吉、卡什·古普塔、李新昌和霍马雍·纳贾兰。2022.工业环境中人机协作的机器人学习策略调查。机器人与计算机集成制造73（2022年）。https://doi.org/10.1016/j.rcim.2021102231
[31] 马克·尼古拉斯·穆勒（Mark Niklas Müller）、格勒布·马卡祖克（Gleb Makarchuk）、加甘代普·辛格（Gagandeep Singh）、马库斯·普舍尔（Markus Püschel）和马丁·维切夫。2022.PRIMA：通过可扩展凸壳近似进行通用和精确的神经网络认证。《美国计算机学会程序设计语言会议录》6，POPL（2022），1-33。https://doi.org/10.1145/3498704
[32] 伊娃·奥斯特塔戈娃。2012.使用多项式回归建模。Procedia Engineering 48（2012），500-506。
[33] 卢卡·普利纳和阿曼多·塔切拉。2010年，人工神经网络验证的抽象再定义方法。在计算机辅助验证国际会议上。施普林格，243-257·Zbl 1214.68370号
[34] 肯尼思·罗森。2017年，《离散和组合数学手册》。CRC出版社。
[35] David E.Rumelhart、Geoffrey E.Hinton和Ronald J.Williams。1986.通过反向传播错误学习表征。《自然》3236088（1986），533-536·Zbl 1369.68284号
[36] Gagandeep Singh、Timon Gehr、Matthew Mirman、Markus Püschel和Martin Vechev。2018.快速有效的稳健性认证。神经信息处理系统进展31（2018）。
[37] Gagandeep Singh、Timon Gehr、Markus Püschel和Martin Vechev。2018年，加强神经网络的稳健性认证。在学习代表国际会议上。
[38] Gagandeep Singh、Timon Gehr、Markus Püschel和Martin Vechev。2019.神经网络认证的抽象领域。《美国计算机学会程序设计语言会议录》3，POPL（2019），1-30。
[39] 马歇尔·H·斯通。1948.广义Weierstrass逼近定理。《数学杂志》21，5（1948），237-254。
[40] 安德鲁·H·宋。1998年。神经网络输入参数重要性排名。应用专家系统15，3-4（1998），405-411。
[41] Christian Szegedy、Wojciech Zaremba、Ilya Sutskever、Joan Bruna、Dumitru Erhan、Ian Goodfellow和Rob Fergus。2014.神经网络的有趣特性。在第二届国际学习代表大会上。
[42] Hoang-Dung Tran、Xiaodong Yang、Diego Manzanas Lopez、Patrick Musau、Luan Viet Nguyen、Weiming Xiang、Stanley Bak和Taylor T.Johnson。2020年NNV：深度神经网络和支持学习的网络物理系统的神经网络验证工具。在计算机辅助验证国际会议上。施普林格，3-17·Zbl 1519.68143号
[43] 王世奇、张欢、徐凯迪、薛琳、苏曼·贾纳、谢卓奎和J Zico Kolter。2021.Beta-CROWN：带全神经元分裂约束的有效边界传播，用于完整和不完整神经网络验证。神经信息处理系统进展34（2021）。
[44] 项伟明（Weiming Xiang）、陈洪东（Hoang-Dung Tran）和泰勒·T·约翰逊（Taylor T.Johnson）。2018年。多层神经网络的输出可达集估计和验证。IEEE神经网络和学习系统汇刊29，11（2018），5777-5783。
[45] 徐凯迪、张欢、王世奇、王一涵、Suman Jana、薛琳和赵瑞谢。2020年。快速和完整：使用快速和大规模并行的不完全验证器实现完整的神经网络验证。arXiv预印arXiv:2011.3824（2020）。
[46] 张欢、翁翠薇、陈品玉、谢卓瑞和卢卡·丹尼尔。2018年。具有通用激活功能的高效神经网络稳健性认证。神经信息处理系统进展31（2018）。
[47] 雅切克·祖拉达（Jacek M.Zurada）、亚历山大·马林诺夫斯基（Aleksander Malinowski）和伊恩·克洛特（Ian Cloete）。1994年。前馈神经网络输入数据维数最小化的灵敏度分析。IEEE电路与系统国际研讨会论文集，第6卷。IEEE，447-450。
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。