阿德里安·弗兰卡兰扎；克莱尔·西尼 计算机说不：使用本地证明系统对运行时监控器进行裁决解释。 （英语） Zbl 1455.68103号 J.日志。阿尔盖布。方法计划。 119，文章ID 100636，25 p.（2021）. 摘要：运行时验证中的监视器通常被构造为黑匣子：它们提供了关于受审查的执行系统是否满足或违反属性的判断，而没有太多解释为什么会出现这种情况。在最好的情况下，监控器也可能返回观察到的跟踪，但仍由用户自行确定用于从该跟踪中得出声明结论的逻辑。在本文中，我们提出了一个线性时态逻辑的局部证明系统，该逻辑是运行时验证中使用的一种流行逻辑，它在运行时验证的约束下形式化了符号推论。我们根据逻辑的原始语义证明了该证明系统的新的稳健性和部分完备性结果。至关重要的是，我们展示了这样一个演绎系统如何作为构建在线运行时监控器的现实基础，为其判断提供解释；我们还展示了生成的监控算法，以满足其他工作确定的令人满意的正确性标准，例如分析的可判定性和增量性以及判决的不可撤销性。最后，我们将线性时序逻辑证明系统的表达能力与运行时验证中使用的现有符号分析技术联系起来。 引用于三文件 MSC公司： 60年第68季度 规范和验证（程序逻辑、模型检查等） 03B44号 时间逻辑 关键词：运行时验证；可解释性；可解释性；线性时序逻辑；证明系统；正确的监视器合成 软件：伊西查尔 PDF格式BibTeX公司 XML格式引用 \textit{A.Francalanza}和\textit{C.Cini}，J.Log。阿尔盖布。方法计划。119，文章ID 100636，25 p.（2021；Zbl 1455.68103） 全文： 内政部 参考文献： [1] 丙酮，L。；阿奇利奥斯，A。；Francalanza，A。；Ingólfsdóttir，A.，参数化监控框架，（软件科学和计算结构基础-第21届国际会议。软件科学和计算机结构基础-第一届国际会议，FOSSACS（2018），Springer），203-220·Zbl 1504.68136号 [2] 丙酮，L。；阿奇利奥斯，A。；Francalanza，A。；Ingólfsdóttir，A。；克雅坦松。，关于测定监测器的复杂性，（Carayol，A.；Nicaud，C.，《自动化的实施和应用——第22届国际会议》，《自动化实施和应用》，2017年CIAA，2017年6月27日至30日，法国马内拉瓦莱，2017年，《会议录》（2017），斯普林格），1-13·Zbl 1489.68149号 [3] 丙酮。；Achilleos，A。；Francalanza，A。；Ingólfsdóttir，A。；Lehtinen，K.，《可监测性的冒险：从分支到线性时间再回来》，Proc。ACM计划。Lang.，3，POPL，52:1-52:29（2019年） [4] 丙酮，L。；阿奇利奥斯，A。；Francalanza，A。；Ingólfsdóttir，A。；Lehtinen，K.，《单独监测的成本》，（Bartocci，E.；Cleaveland，R.；Grosu，R.，Sokolsky，O.，《从反应系统到网络物理系统——斯科特·斯莫尔卡65岁生日（2019年）献稿》，斯普林格），259-275 [5] 丙酮。；阿奇利奥斯，A。；Francalanza，A。；Ingólfsdóttir，A。；Lehtinen，K.，《可监控性操作指南》，（软件工程和形式方法第17届国际会议。软件工程和正式方法第17次国际会议，2019年9月18日至20日，挪威奥斯陆，2019，Proceedings（2019），Springer），433-453 [6] Ahrendt，W。；Henrio，L。；Oortwijn，W.，谁该受责备？使用活动监控器对分布式对象进行运行时验证（2019年），CoRR [7] Alpern，B。；Schneider，F.B.，《认识安全和活力》，《分布式计算》。，2, 117-126 (1987) ·Zbl 0641.68039号 [8] Artho，C。；巴林格，H。；Goldberg，A。；Havelund，K。；Khurshid，S。；Lowry，M.R。；Pasareanu，C.S。；罗苏，G。；Sen，K。；维瑟，W。；Washington，R.，结合测试用例生成和运行时验证，Theor。计算。科学。，336, 209-234 (2005) ·Zbl 1080.68062号 [9] 阿塔德·D·P。；Francalanza，A.，《异步组件的跟踪分区和本地监控》，（Cimatti，A.；Sirjani，M.，《软件工程和形式化方法——第15届国际会议》。软件工程和正式方法——第十五届国际会议，2017年SEFM，2017年9月4日至8日，意大利特伦托，2017年，《论文集》（2017），Springer），219-235 [10] 拜尔，C。；Katoen，J.P.，《模型检验、表征和思维系列原则》（2008），麻省理工学院出版社：麻省理工学院出版社剑桥（MA），美国·Zbl 1179.68076号 [11] （Bartocci，E.；Falcone，Y.，《运行时验证讲座-介绍性和高级主题》，《计算机科学讲座笔记》，第10457卷（2018），Springer） [12] E.Bartocci，Y.Falcone，A.Francalanza，G.Reger，运行时验证简介，见：[11]，2018年，第1-33页，https://doi.org/10.1007/978-3-319-75632-5_1。 [13] Bartocci，E。；Manjunath，N。；Mariani，L。；Mateis，C。；Nickovic，D.，CPS模型中的自动故障解释，（Ölveczky，P.C.；Salaün，G.，软件工程和形式方法-第17届国际会议。软件工程和形式方法-第17届国际会议，SEFM 2019，挪威奥斯陆，2019年9月18日至20日，Proceedings（2019），施普林格），69-86 [14] 华盛顿盆地。；Bhatt，B.N。；Traytel，D.，套索词线性时序逻辑的最优证明，（验证与分析自动化技术第16届国际研讨会。验证与分析自动技术第16次国际研讨会，2018年10月7日至10日，美国加利福尼亚州洛杉矶，ATVA 2018，Proceedings（2018），Springer），37-55·Zbl 1517.68222号 [15] D.A.盆地。；Klaedtke，F。；Zalinescu，E.，无序数据流时间特性的运行时验证，（计算机辅助验证-第29届国际会议。计算机辅助验证–第29届世界会议，2017年7月24日至28日，德国海德堡，2017年，《会议记录，第一部分（2017）》，斯普林格），356-376·Zbl 1494.68160号 [16] 鲍尔，A。；Falcone，Y.，分散LTL监测，形式方法系统。设计。，48, 46-93 (2016) ·兹比尔1392.68229 [17] 鲍尔，A。；Leucker，M。；夏尔哈特，C.，《好的、坏的和丑的，但丑有多丑？》？，（运行时验证（2007），Springer），126-138 [18] 鲍尔，A。；Leucker，M。；Schallhart，C.，《为运行时验证比较LTL语义》，J.Log。计算。，20, 651-674 (2010) ·Zbl 1213.68363号 [19] 鲍尔，A。；Leucker，M。；Schallhart，C.，LTL和TLTL的运行时验证，ACM Trans。柔和。工程方法。，20, 14 (2011) [20] Bocchi，L。；Chen，T。；Demangeon，R。；本田，K。；Yoshida，N.，《通过多方会话类型监控网络》，Theor。计算。科学。，669, 33-58 (2017) ·Zbl 1359.68215号 [21] Bohlender，D。；Köhl，M.A.，《走向可解释系统的特征化》（2019年），CoRR [22] 布拉德菲尔德，J。；Stirling，C.，无限状态空间的局部模型检验（1992）·Zbl 0747.68036号 [23] Brunnler，K。；Lange，M.，《时序逻辑的无割序列系统》，J.Log。代数程序。，76, 216-225 (2008) ·Zbl 1151.03009号 [24] 伯洛，C.B。；Francalanza，A。；Scalas，A.，面向通信协议的混合验证方法（短文），（Gotsman，A。；Sokolova，A.，《分布式对象、组件和系统的形式化技术——第40届IFIP WG 6.1国际会议，FORTE 2020》，作为第15届国际分布式计算技术联合会会议的一部分举行。分布式对象、组件和系统的形式化技术-第40届IFIP WG 6.1国际会议，FORTE 2020，作为第15届分布式计算技术国际联合会议的一部分举行，DisCoTec 2020，马耳他瓦莱塔，2020年6月15日至19日，Proceedings（2020），Springer），227-235 [25] （Buss，S.R.，《证明理论手册》（1998年），爱思唯尔出版社）·Zbl 0898.03001号 [26] 卡萨尔，I。；Francalanza，A。；丙酮，L。；Ingólfsdóttir，A.，《运行时监测仪器技术的调查》，（Francalanza，A.；Pace，G.J.，《部署前和部署后验证技术第二次国际研讨会论文集》，发布前@iFM 2017 (2017)), 15-28 [27] Chai，M。；Schlingloff，B.，具有五值LTL的分布式系统的在线监测，（国际多值逻辑研讨会（2014），IEEE），226-231 [28] 西尼，C。；Francalanza，A.，用于运行时验证的LTL证明系统，（TACAS（2015），Springer），581-595·Zbl 1420.68121号 [29] Dawes，J.H。；Reger，G.，《解释控制流时序逻辑中的属性冲突》，（运行时验证-第19届国际会议。运行时验证–第19届世界会议，RV 2019（2019），Springer） [30] 德赛，A。；Dreossi，T。；Seshia，S.A.，《将安全机器人的模型检查和运行时验证结合起来》，（Lahiri，S.K.；Reger，G.，《运行时验证——第17届国际会议》。《运行时检验——第17次国际会议》，RV 2017，西雅图，华盛顿州，美国，2017年9月13日至16日，《会议记录》（2017），施普林格），172-189 [31] 爱德华兹，L。；Veale，M.，算法的奴隶？为什么“解释权”可能不是你正在寻找的补救办法，杜克法律技术公司。第16版，第1-65页（2017年） [32] 艾斯纳，C。；Fisman，D。；哈夫利切克，J。；Lustig，Y。；McIsaac，A。；Campenhout，D.V.，《截断路径上的时序逻辑推理》（计算机辅助验证（2003），Springer），27-39·Zbl 1278.68168号 [33] A.Francalanza，监督员理论。信息与计算（新闻稿）·Zbl 1476.68172号 [34] Francalanza，A.，监视器理论（扩展摘要），（软件科学和计算结构基础-第19届国际会议。软件科学和计算机结构基础-第一届国际会议，FOSSACS，荷兰埃因霍温（2016）），145-161·Zbl 1476.68172号 [35] Francalanza，A.，持续检测监控器，（第28届并发理论国际会议（CONCUR），Schloss Dagstuhl（2017）），8:1-8:19·Zbl 1442.68107号 [36] Francalanza，A。；丙酮，L。；Achilleos，A。；阿塔德，D.P。；卡萨尔，I。；D.D.莫妮卡。；Ingólfsdóttir，A.，《运行时监控基础》，（运行时验证-第17届国际会议。运行时验证–第17届世界会议，RV 2017（2017），Springer），8-29 [37] Francalanza，A。；丙酮，L。；Ingólfsdóttir，A.，具有递归的Hennessy-Milner逻辑的可监控性，形式方法系统。设计。，51, 87-116 (2017) ·Zbl 1370.68203号 [38] Francalanza，A。；高奇，A。；Pace，G.J.，分布式系统合同监控，J.Log。代数方法程序。，82, 186-215 (2013) ·Zbl 1283.68243号 [39] A.Francalanza，J.A.Pérez，C.Sánchez，分散和分布式系统的运行时验证，见：[11]，2018年，第176-210页，https://doi.org/10.1007/978-3-319-75632-5_6。 [40] 加巴伊，D。；普努利，A。；谢拉，S。；Stavi，J.，《关于公平的时间分析》，（编程语言原则（1980），ACM：美国纽约州纽约市ACM），163-173 [41] Geilen，M.，《关于时序逻辑属性监视器的构建》（Runtime Verification（2001）），181-199 [42] 吉尔平，L.H。；鲍·D。；袁伯忠。；Bajwa，A。；斯佩克特，M。；Kagal，L.，《解释：机器学习的可解释性概述》，（2018 IEEE第五届数据科学和高级分析国际会议，2018 IEEE数据科学和先进分析第五届国际会议，DSAA（2018）），80-89 [43] 格里戈尔，R。；Kiefer，S.，Tree buffers，（Kroening，D.；Pasareanu，C.S.，《计算机辅助验证——第27届国际会议》，计算机辅助验证第27届世界会议，2015年7月18日至24日，加利福尼亚州旧金山，美国，2015年，会议记录，第一部分（2015）），290-306（2015），斯普林格 [44] Havelund，K。；Peled，D.，《运行时验证：从命题到一阶时序逻辑》（Runtime verification:from positional to first order temporal logic），（运行时验证——第18届国际会议。运行时验证—第18届国际会议，RV 2018，利马索尔，塞浦路斯，2018年11月10日至13日，Proceedings（2018），Springer），90-112 [45] Havelund，K。；Rosu，G.，使用重写监视程序，（自动化软件工程（2001），IEEE:IEEE Wash.，DC，USA），135-143 [46] Hinrichs，T.L。；Sistla，A.P。；Zuck，L.D.，模型检查你能做什么，运行时验证其余，（Voronkov，A.；Korovina，M.V.，HOWARD-60:霍华德·巴林格60岁生日庆典。EasyChair.HOWARD-60:霍华德·巴林格60周年庆典。EasiChair，EPiC计算机系列，第42卷（2014）），234-244 [47] 贾，L。；Gommerstadt，H。；Pfenning，F.，《高阶会话类型的监控和责任分配》，（Bodík，R.；Majumdar，R.，第43届ACM SIGPLAN-SIGACT编程语言原则研讨会论文集。美国佛罗里达州彼得堡，2016年1月20日至22日（2016年），ACM），582-594·Zbl 1347.68269号 [48] Kejstová，K。；罗凯，P。；Barnat，J.，从模型检查到运行时验证再回来，（Lahiri，S.K.；Reger，G.，运行时验证-第17届国际会议。运行时验证-第17届国际会议，RV 2017，美国华盛顿州西雅图，2017年9月13日至16日，Proceedings（2017），Springer），225-240 [49] Kojima，K。；Igarashi，A.，《构造线性时间逻辑：证明系统和克里普克语义学》，Inf.Comput。，209, 1491-1503 (2011) ·Zbl 1248.03031号 [50] 库普夫曼，O。；Vardi，M.Y.，安全特性的模型检查，形式方法系统。设计。，19, 291-314 (2001) ·Zbl 0995.68061号 [51] Leucker，M。；Schallhart，C.，运行时验证的简要介绍，J.Log。代数程序。，78, 293-303 (2009) ·Zbl 1192.68433号 [52] Manna，Z。；Pnueli，A.，完成时间画面，Theor。计算。科学。，83, 97-130 (1991) ·Zbl 0795.68133号 [53] Manna，Z。；Pnueli，A.，《无功系统的临时验证：安全》（1995），Springer-Verlag，纽约公司：Springer-Verlag，美国纽约州纽约市 [54] Neykova，R。；Bocchi，L。；Yoshida，N.，多方对话的定时运行时监控，Form.Asp。计算。，29, 877-910 (2017) ·Zbl 1375.68030号 [55] Neykova，R。；胡，R。；吉田，N。；Abdeljallal，F.，A session type provider:分布式协议的编译时API生成及F#中的改进，（Dubach，C.；Xue，J.，《第27届编译器构造国际会议论文集》，第27届国际编译器构造会议论文集，2018年2月24日至25日，奥地利维也纳（2018），ACM），128-138 [56] Pnueli，A.，程序的时序逻辑，（计算机科学基础研讨会（1977），IEEE:IEEE Wash.，DC，USA），46-57 [57] 普努利，A。；Zaks，A.，通过测试人员进行PSL模型检查和运行时验证，（Misra，J.；Nipkow，T.；Sekerinski，E.，FM 2006:形式方法，第14届形式方法国际研讨会（2006），Springer），573-586 [58] 罗什·G。；Havelund，K.，《基于重写的运行时验证技术》，Autom。柔和。工程，12151-197（2005） [59] 桑切斯，C。；Schneider，G.公司。；Ahrendt，W。；Bartocci，E。；Bianculli，D。；哥伦比亚特区科伦坡。；Falcone，Y。；Francalanza，A。；Krstic，S。；Lourenço，J.M。；尼科维奇，D。；佩斯，G.J。；鲁菲诺，J。；Signoles，J。；Traytel，D。；Weiss，A.，《来自高级应用程序领域（软件以外）的运行时验证挑战调查》，《表单方法系统》。设计。，54, 279-335 (2019) ·Zbl 1425.68268号 [60] Sen，K。；罗苏，G。；Agha，G.，《通过共聚生成最佳线性时序逻辑监控器》，（计算科学进展（2003），施普林格出版社），260-275·Zbl 1215.68134号 [61] 斯特林，C。；Walker，D.，模态μ演算中的局部模型检查，Theor。计算。科学。，89, 161-177 (1991) ·Zbl 0745.03027号 [62] 塔巴科夫，D。；Vardi，M.Y.，《SystemC的优化时间监视器》（Runtime Verification（2010），Springer:Springer Berlin，Heidelberg），436-451 [63] Troelstra，A.S。；Schwichtenberg，H.，《基本证明理论》，《剑桥理论计算机科学丛书》（2000），剑桥大学出版社：剑桥大学出版社，纽约，美国·Zbl 0957.03053号 此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。