亚历山德罗·西马蒂;田，春;斯特凡诺·托内塔 基于假设的运行时验证。 （英语） 兹伯利07683090 形式方法系统。设计。 60，第2号，277-324（2022）. 摘要：运行时验证是一种轻量级的自动验证技术。我们介绍基于假设的运行时验证框架，能够监测部分可观测系统。该框架利用对被审查系统行为的假设，对其不可观察或未来的行为进行推理。规范用命题线性时态逻辑（LTL）表示，其中包含未来和过去时态运算符，而假设则在Fair Kripke Structures中描述。支持静态或动态观测值集。监视器也可重置的即能够在输入轨迹的任意位置评估规范。我们给出了该框架的形式化，以及一系列可由二进制决策图有效实现的监控算法。作为副产品，我们还为Past-time LTL提出了一种新的基于自动机的监控器构造，这是一种仅包含过去时态操作符的LTL变体。我们证明了所有相关算法的正确性。该框架在NuRV中实现，是nuXmv（数字）模型检查器。它综合了隐式或显式监控器，可以在线或离线模式部署。显式监控器是编程语言（包括C、C++、Java和Common Lisp）中的可嵌入代码。特别是，监控器可以生成为SMV模型，其正确性和其他属性可以在中进行验证nuXmv（数字）使用Dwyer的LTL模式的基准，我们展示了符号方法和生成的监控器的效率，以及该方法的可行性和有效性。一些监测器在某些假设下具有预测性。 理学硕士： 68倍 计算机科学 关键词：运行时验证;线性时序逻辑;部分可观测性;可重置监控器;预测语义学 软件：R2U2型;德贾武;毫升;Coq公司;nuXmv（数字）;HOL公司;日本运通银行 PDF格式BibTeX公司 XML格式引用 \textit{A.Cimatti}等人，《形式方法系统》。设计。60，编号2，277--324（2022；Zbl 07683090） 全文： 内政部 参考文献： [1] Aceto L、Achilleos A、Francalanza A、Ingólfsdóttir A、Lehtinen K（2019）《可监测性操作指南》。收录于：Ùlveczky PC，Salaün G（eds）LNCS 11724-软件工程和形式化方法（SEFM 2019）。查姆施普林格，第433-453页。doi:10.1007/978-3-030-30446-1_23 [2] Arafat O、Bauer A、Leucker M、Schallhart C（2005）《运行时验证》再次讨论。技术报告TUM-I0518，慕尼黑慕尼黑理工大学 [3] Azzopardi S，Colombo C，Pace GJ（2016）一种结合静态和动态验证技术的基于模型的方法。在：Margaria T，BernhardS（ed）LNCS 9952利用正式方法、验证和验证的应用（ISoLA 2016，第一部分）。施普林格，第416-430页。doi:10.1007/978-3-319-47166-2_29 [4] Barringer H，Havelund K（2011）TraceContract——用于跟踪分析的Scala DSL。In:LNCS 6664-FM 2011：正式方法。柏林施普林格，第57-72页。doi:10.1007/978-3-642-21437-07 [5] Barringer H、Goldberg A、Havelund K、Sen K（2004）《基于规则的运行时验证》。收录：Steffen B，Levi G（eds）LNCS 2937-验证、模型检查和抽象解释（VMCAI）。柏林施普林格，第44-57页。doi:10.1007/978-3-540-24622-05·Zbl 1202.68243号 [6] Barringer H、Rydeheard DE、Havelund K（2007）《运行时监控的规则系统：从鹰到规则》。包含：LNCS 4389-时间验证（RV 2007）。柏林施普林格，第111-125页。doi:10.1007/978-3-540-77395-5_10 [7] Bauer，A。；Falcone，Y.，分散LTL监测，系统设计中的正式方法，48，1-2，46-93（2016）·Zbl 1392.68229号 ·doi:10.1007/s10703-016-0253-8 [8] Bauer，A。；Leucker，M。；Schallhart，C.，《为运行时验证比较LTL语义》，J Logic Compute，20，3，651-674（2010）·Zbl 1213.68363号 ·doi:10.1093/log.com/exn075 [9] Bauer，A。；Leucker，M。；Schallhart，C.，LTL和TLTL的运行时验证，ACM Trans-Softw Eng Methodol，20，4，14-64（2011）·doi:10.1145/2000799.2000800 [10] Bernasconi A，Menghi C，Spoletini P，Zuck LD，Ghezzi C（2018）从模型检查到部分模型的时间证明。收件人：Cerone A，Roveri M（eds）LNCS 10469-软件工程和形式方法（SEFM 2017）。查姆施普林格，第54-69页。doi:10.1007/978-3-319-66197-14·Zbl 1420.68118号 [11] Bertot Y，Castéran P（2013）交互式定理证明和程序开发。Coq'Art：归纳结构的微积分。柏林施普林格。doi:10.1007/978-3-662-07964-5 [12] Bittner B、Bozzano M、Cimatti A、Olive X（2012）可诊断性可观测性要求的符号合成。2012年7月22日至26日，加拿大安大略省多伦多，第二十六届AAAI人工智能会议记录。http://www.aaai.org/ocs/index.php/aaai/AAAI12/paper/view/5056 [13] Bozzano M、Cimatti A、Gario M、Tonetta S（2014）使用时间认知逻辑的故障检测和识别组件的形式化设计。In:LNCS 8413-用于系统构建和分析的工具和算法（TACAS 2014）。柏林施普林格，第326-340页。doi:10.1007/978-3-642-54862-8_22 [14] Bozzano M、Cavada R、Cimatti A、Dorigatti M、Griggio A、Mariotti A、Micheli A、Mover S、Roveri M、Tonetta S（2019）nuXmv 2.0.0用户手册。https://es.fbk.eu/tools/nuxmv/downloads/nuxmv-user-manual.pdf [15] Broy M、Jonsson B、Katoen J-P、Leucker M、Pretschner A（2005）。LNCS 3472基于模型的反应系统测试。doi:10.1007/b137241·Zbl 1070.68088号 [16] Bruns G，Godefroid P（1999）用三值时序逻辑检验部分状态空间的模型。参见：Halbwachs N，Peled DA（eds）LNCS 1633-计算机辅助验证（CAV 1999）。柏林施普林格，第274-287页。doi:10.1007/3-540-48683-6_25 [17] Bryant RE（2018）二元决策图。收录：Clarke EM Jr、Henzinger TA、Veith H、Bloem R（eds）《模型检查手册》。查姆施普林格，第191-217页。数字对象标识代码：10.1007/978-3-319-10575-87·Zbl 1390.68001号 [18] JR伯奇；克拉克，EM；吉隆坡麦克米兰；迪尔，DL；Hwang，L-J，符号模型检验：（10^{20}）状态及其以外，Inf Comput，98，2，142-170（1992）·Zbl 0753.68066号 ·doi:10.1016/0890-5401（92）90017-A [19] Cavada R、Cimatti A、Dorigatti M、Griggio A、Mariotti A、Micheli A、Mover S、Roveri M、Tonetta S（2014）《nuXmv符号模型检查器》。参见：Biere A，Bloem R（eds）LNCS 8559-计算机辅助验证（CAV 2014）。查姆施普林格，第334-342页。doi:10.1007/978-3-319-08867-9_22 [20] Chen F，Rošu G（2007）MOP：一种高效通用的运行时验证框架。收录于：第22届ACM SIGPLAN年会。美国纽约ACM出版社，第569-588页。doi:10.1145/1297027.1297069 [21] Chen F，Roşu G（2009）参数跟踪切片和监测。In：用于系统构建和分析的LNCS 5505工具和算法（TACAS 2009）。柏林施普林格，第246-261页。doi:10.1007/978-3-642-00768-223·Zbl 1234.68073号 [22] Cimatti A、Tian C、Tonetta S（2019）基于假设的运行时验证，具有部分可观测性和重置。收录：Finkbeiner B，Mariani L（编辑）LNCS 11757-时间验证（RV 2019）。斯普林格，波尔图，第165-184页。doi:10.1007/978-3-030-32079-9_10 [23] Cimatti A、Tian C、Tonetta S（2019）NuRV：运行时验证的nuXmv扩展。收录：Finkbeiner B，Mariani L（编辑）LNCS 11757-时间验证（RV 2019）。斯普林格，波尔图，第382-392页。doi:10.1007/978-3-030-32079-9_23 [24] 克拉克，EM；格伦伯格，O。；Hamaguchi，K.，《LTL模型检查的另一种观点》，《形式方法系统设计》，10，1，47-71（1997）·doi:10.1023/A:1008615614281 [25] Clarke EM、Henzinger TA、Veith H、Bloem R（2018）。模型检查手册。doi:10.1007/978-3-319-10575-8·Zbl 1390.68001号 [26] Coble AR（2010）《匿名、信息和机器辅助证明》。技术报告UCAM-CL-TR-785，剑桥大学计算机实验室。https://www.cl.cam.ac.uk/techreports/UCAM-cl-TR-785.pdf [27] 哥伦比亚特区科伦坡。；Falcone，Y.，《使用全球时钟在分布式系统上组织LTL监控器》，《形式方法系统设计》，49，1，109-158（2016）·Zbl 1380.68272号 ·doi:10.1007/s10703-016-0251-x [28] Du X，Liu Y，Tiu AL（2015）LTL中定量政策的跟踪长度独立运行时监控。收录于：Björner N，de Boer F（eds）LNCS 9109-FM 2015：形式方法。查姆施普林格，第231-247页。doi:10.1007/978-3-319-19249-915·Zbl 1427.68167号 [29] Dwyer MB、Avrunin GS、Corbett JC（1999）有限状态验证的属性规范模式。摘自：《第21届软件工程国际会议论文集》，纽约ACM出版社，第411-420页。数字对象标识代码：10.1145/302405.302672 [30] Emerson El，Lei C-L（1986）广义公平约束下的时间推理。收录于：Monien B，Vidal-Naquet G（编辑）LNCS 210-计算机科学理论方面（STACS 1986）。柏林施普林格，第21-36页。doi:10.1007/3-540-16078-7_62·Zbl 0614.03023号 [31] Falcone，Y。；Havelund，K。；Reger，G.，《运行时验证教程》，Eng Depend Softw Syst，34，141-175（2013）·doi:10.3233/978-1-61499-2007-3141 [32] Falcone Y，Krstic S，Reger G，Traytel D（2018）运行时验证工具分类法。收件人：科伦坡C，Leucker M（eds）LNCS 11237-时间验证（RV 2018）。查姆施普林格，第241-262页。doi:10.1007/978-3-030-03769-7_14 [33] Fauri D、dos Santos DR、Costante E、den Hartog J、Etalle S、Tonetta S（2017）《从系统规范到异常检测》（及其后）。参见：2017年网络物理系统安全和PrivaCy研讨会会议记录。纽约ACM出版社，第13-24页。数字对象标识代码：10.1145/3140241.3140250 [34] Fuxman AD（2001）早期需求规范的形式化分析。多伦多大学博士论文。https://tspace.library.utoronto.ca/handle/1807/15905 [35] Genc，S。；Lafortune，S.，部分观测离散事件系统中事件发生的可预测性，Automatica，45，2，301-311（2009）·兹比尔1158.93366 ·doi:10.1016/j.automatica.2008.06.022 [36] Genc，S。；Lafortune，S.，部分观测下离散事件系统的可预测性，IFAC Proc，39，13，1461-1466（2006）·doi:10.3182/20060829-4-CN-2909.00243 [37] MJC戈登；Melham，TF，HOL简介（1993），高阶逻辑的定理证明环境：剑桥大学出版社，纽约·Zbl 0779.68007号 [38] Graf S、Peled DA、Quinton S（2011）使用知识监测分布式系统。In:Bruni R，Dingel J（eds）LNCS 6722-分布式系统的形式化技术（FMOODS/FORTE 2011）。柏林施普林格，第183-197页。数字对象标识代码：10.1007/978-3642-21461-5_12 [39] Halpern Joseph Y，Vardi Moshe Y（1989）关于知识和时间的推理的复杂性。I.下限。计算机系统科学杂志38（1）：195-237。doi:10.1016/0022-0000（89）90039-1·Zbl 0672.03015号 [40] Havelund K，Peled DA（2018）《从命题到一阶时序逻辑的运行时验证》。In:LNCS 11237-时间验证（RV 2018）。查姆施普林格，第90-112页。doi:10.1007/978-3-030-03769-7_7 [41] Havelund K，Rošu G（2002）《安全性能综合监测器》。收录：Katoen J-P，Stevens P（eds）LNCS 2280——系统构建和分析的工具和算法（TACAS 2002）。柏林施普林格，第342-356页。doi:10.1007/3-540-46002-024·Zbl 1043.68534号 [42] Havelund，K。；Rošu，G.，运行时验证工具Java PathExplorer概述，形式方法系统Des，24，2，189-215（2004）·Zbl 1073.68549号 ·doi:10.1023/B:FORM.00000017721.39909.4b [43] Havelund K、Peled DA、Ulus D（2017），BDD的一阶时序逻辑监测。In：计算机辅助设计中的形式化方法（FMCAD 2017）。IEEE，第116-123页。doi:10.23919/FMCAD.2017.8102249 [44] Havelund，K。；佩利德，DA；Ulus，D.，BDD的一阶时序逻辑监测，形式方法系统设计，2，3，117-23（2019）·Zbl 1506.68055号 ·doi:10.1007/s10703-018-00327-4 [45] Henzinger TA，Ege SN（2020）假设下的可监测性。收录：Deshmukh J，Nickovic D（eds）LNCS 12399-时间验证（RV 2020）。查姆·斯普林格，第3-18页。doi:10.1007/978-3-030-60508-71 [46] Hurd J（2003）概率算法的形式验证。技术报告UCAM-CL-TR-566，剑桥大学计算机实验室。https://www.cl.cam.ac.uk/techreports/UCAM-cl-TR-566.pdf [47] 贾拉（Jhala，R.）。；Majumdar，R.，软件模型检查，ACM Compute Surv CSUR，41，4，1-54（2009）·Zbl 1507.68188号 ·数字对象标识代码：10.1145/1592434.1592438 [48] Kaufmann M，Manolios P，Strother MJ（2000）《计算机辅助推理：一种方法》，形式方法进步第3卷。波士顿斯普林格 [49] Kesten Y，Pnueli A，Raviv L（1998）线性时序逻辑规范的算法验证。收录：Larsen KG、Skyum S、Winskel G（编辑）LNCS 1443-自动机、语言和编程（ICALP 1998）。柏林施普林格，第1-16页。doi:10.1007/BFb0055036 [50] Kleene，SC，《元数学导论》（1971），纽约：Wolthers-Noordhoff，纽约 [51] Laroussinie F，Markey N，Schnoebelen P（2002）《可遗忘过去的时间逻辑》。摘自：第17届IEEE计算机科学逻辑研讨会论文集（LICS 2002）。IEEE计算机学会，第383-392页。doi:10.1109/LICS.2002.1029846 [52] Leucker M（2013）在模型检查和运行时验证之间滑动。收录：Qadeer S，Tasiran S（eds）LNCS 7687-时间验证（RV 2012）。柏林施普林格，第82-87页。doi:10.1007/978-3642-35632-2_10 [53] Leucker，M。；Schallhart，C.，《运行时验证简介》，J Logic Algebr Program，78，5，293-303（2009）·Zbl 1192.68433号 ·doi:10.1016/j.jlap.2008.08.004 [54] Luo Q，Zhang Y，Lee C，Jin D，O'Neil MP，Serbanuta T-F，Rošu G（2014）RV-Monitor：具有同时属性的高效参数运行时验证。In:Bonakdarpour B，Smolka SA（编辑）LNCS 8734-时间验证（RV 2014）。查姆施普林格，第285-300页。文件编号：10.1007/978-3-319-11164-3_24 [55] Manna，Z。；Pnueli，A.，《反应式和并发系统的时序逻辑：规范》，Springer，纽约（1992）·doi:10.1007/978-1-4612-0931-7 [56] Manna，Z。；Pnueli，A.，《反应系统的时间验证：安全》，Springer，纽约（1995）·doi:10.1007/978-1-4612-4222-2 [57] Mascle C、Neider D、Schwenger M、Tabuada P（2020）《从LTL到rLTL监控：通过稳健语义改进监控能力》。第23届混合系统计算与控制国际会议。ACM，纽约，第1-12页。数字对象标识代码：10.1145/3365365.3382197·Zbl 07300848号 [58] Menghi C，Spoletini P，Ghezzi C（2016）基于自动机的模型检查中的不完整性处理。In:LNCS 9995-FM 2016：正式方法。斯普林格。数字对象标识代码：10.1007/978-3-319-48989-6 [59] Peled DA，Havelund K（2019）根据可监测性细化时间属性的安全-活性分类。In：模型、思维模式、元：什么、如何以及为什么不？施普林格，第218-234页。文件编号：10.1007/978-3-030-22348-9_14·Zbl 1519.68138号 [60] Pinisetty，S。；Jéron，T。；特里帕基斯，S。；Falcone，Y。；Marchand，H。；Preoteasa，V.，时间属性的预测运行时验证，J Syst Softw，132，353-365（2017）·doi:10.1016/j.jss.2017.06.060 [61] 罗什·G。；Havelund，K.，《基于重写的运行时验证技术》，Autom Softw Eng，12，2，151-197（2005）·doi:10.1007/s10515-005-6205-y [62] Rozier KY，Schumann J（2017）R2U2：工具概述。Kalpa Publ计算3:138-156。doi:10.29007/5pch [63] Sampath，M。；Sengupta，R。；Lafortune，S。；Sinnamohideen，K。；Teneketzis，D.，离散事件系统的可诊断性，IEEE Trans Autom Control，40，9，1555-1575（1995）·Zbl 0839.93072号 ·doi:10.1109/9.412626 [64] Schneider K（2001）通过考虑自动机层次结构改进线性时序逻辑的自动机生成。收录：Nieuwenhuis R，Voronkov A（eds）LNAI 2250-编程、人工智能和推理逻辑（LPAR 2001）。柏林施普林格，第39-54页。doi:10.1007/3-540-45653-83·兹比尔1275.68096 [65] Schneider K（2004）《时序逻辑》。在：反应系统的验证-形式化方法和算法。柏林施普林格，第279-404页。doi:10.1007/978-3-662-10778-25·Zbl 1067.68092号 [66] Selyunin K、Jaksic S、Nguyen T、Reidl C、Hafner U、Bartocci E、Nickovic D、Grosu R（2017）《恢复SENT通信协议的运行时监测》。In:Majumdar R，Kunčak V（eds）LNCS 10426计算机辅助验证（CAV 2017，第一部分）。斯普林格。doi:10.1007/978-3-319-63387-9_17 [67] Sistla AP、Zhou M、Zuck LD（2006）《监控非现成组件》。In:Emerson EA，Namjoshi KS（eds）LNCS 3855-验证、模型检查和抽象解释（VMCAI 2006）。柏林施普林格，第222-236页。doi:10.1007/11609773_15·兹比尔1176.68129 [68] Sistla AP，Zefran M，Feng Y（2011）随机动力系统的可监测性。包含：CAV，第720-736页 [69] Tan L，Kim J，Sokolsky O，Lee I（2004）混合嵌入式系统的基于模型的测试和监控。参加：IEEE信息重用和集成国际会议。IEEE，第487-492页。doi:10.1109/IRI.2004.1431508 [70] Tuerk T、Schneider K、Gordon M（2007）使用HOL和SMV检查PSL模型。收录：Bin E、Ziv A、Ur S（编辑）LNCS 4383硬件和软件：验证和测试（HVC 2006）。柏林施普林格，第1-15页。doi:10.1007/978-3-540-70889-6_1 [71] Zhang X，Leucker M，Dong W（2012）《预测语义的运行时验证》。收录：Goodloe AE，Person S（eds）LNCS 7226-NASA正式方法（NFM 2012）。柏林施普林格，第418-432页。doi:10.1007/978-3-642-28891-3_37 [72] 赵，Y。；Oberthür，S。；Kardos，M。；Rammig，FJ，自优化系统的基于模型的运行时验证框架，电子笔记Theor Compute Sci，144，4，125-145（2006）·doi:10.1016/j.entcs.2006.02.008 [73] 赵，Y。；Rammig，F.，基于模型的运行时验证框架，电子笔记理论与计算科学，253，1，179-193（2009）·doi:10.1016/j.entcs.2009.09.035 此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。