迈克尔·威尼科夫；加利纳西多连科；弗吉尼亚州迪格纳姆；弗兰克·迪格纳姆 为什么咖啡不好？用估值解释BDI代理行为。 （英语） Zbl 1520.68135号 Artif公司。智力。 300，文章ID 103554，31 p.（2021）. 概要：部署自治系统的一个重要问题是如何使人类用户和利益相关者在系统中建立适当的信任水平。有人认为，实现适当信任的关键机制是系统解释其行为的能力。显然，这种解释需要人类能够理解。由于人类和自主系统在功能上的相似性，我们认为，在探索人类如何解释其行为的社会科学广泛研究成果的基础上发展是有意义的。使用类似的概念进行解释有助于提高可理解性，因为这些概念很熟悉。在社会科学领域的工作之后，我们建议使用一种民间心理模型，该模型利用信仰、欲望和“价值观”。我们提出了一个构造自治系统行为解释的形式化框架，给出了一个给出解释的（实现的）算法，并给出了评估结果。 MSC公司： 68T01型 人工智能的一般主题 68T27型 人工智能中的逻辑 关键词：解释；信念-渴望-专注；估价 软件：贾德克斯；杰森 PDF格式BibTeX公司 XML格式引用 \textit{M.Winikoff}等人，Artif。智力。300，文章ID 103554，31 p.（2021；Zbl 1520.68135） 全文： 内政部 参考文献： [1] 弗洛里迪，L。；Cowls，J。；贝尔特拉梅蒂，M。；Chatila，R。；乍得，P。；Dignum，V。；Luetge，C。；马德林，R。；美国帕加洛。；罗西，F。；Schafer，B。；瓦尔克，P。；Vayena，E.，AI4people——一个良好AI社会的道德框架：机遇、风险、原则和建议，Minds Mach。，28, 4, 689-707 (2018) [2] 罗宾内特，P。；李伟（Li，W.）。；艾伦·R。；霍华德，A.M。；Wagner，A.R.，《紧急疏散场景中机器人的过度信任》，（Bartneck，C.；Nagai，Y.；Paiva，A.；Sabanovic，S.，第十一届ACM/IEEE人机交互国际会议。第十一届APM/IEEE人-机交互国际会议，2016年3月7日至10日（2016），IEEE/ACM:IEEE/ACM-Christchurch，新西兰），101-108 [3] Winikoff，M.，《走向信任自治系统》（El Fallah Seghrouchni，A.；Ricci，A.；Son，T。C.，工程多代理系统-第五届国际研讨会。工程多代理系统-2017年5月8日至9日在巴西圣保罗举行的EMAS 2017第五届国际研讨会，修订论文集。工程多智能体系统-第五届国际研讨会。工程多代理系统-第五届国际研讨会，EMAS 2017，巴西圣保罗，2017年5月8日至9日，修订论文集，计算机科学讲义，第10738卷（2017），Springer），3-20 [4] IEEE人工智能和自治系统道德考虑全球倡议，《符合道德的设计：利用人工智能和自主系统优先考虑福祉的愿景》（2016年），IEEE，第1版 [5] Lim，B.Y。；Dey，A.K。；Avrahami，D.，《为什么解释和为什么不解释可以提高上下文智能系统的可理解性》（Olsen，D.R.；Arthur，R.B.；Hinkley，K.；Morris，M.R.；Hudson，S.E。；Greenberg，S.，《第27届计算机系统人为因素国际会议论文集》。第27届计算机系统人为因素国际会议论文集，CHI 2009，2009年4月4日至9日（2009），ACM:ACM Boston，MA，USA），2119-2128 [6] 马勒，B.F.，《心灵如何解释行为：民间解释、意义和社会互动》（2004），麻省理工学院出版社 [7] de Graaf，医学硕士。；Malle，B.F.，《人们对机器人行为的解释》微妙地揭示了心理状态推断，（第14届ACM/IEEE人与机器人交互国际会议。第14届AM/IEEE人与机器人互动国际会议，HRI 2019，韩国大邱，2019年3月11日至14日（2019），IEEE），239-248 [8] Thellman，S。；Silvervarg，A。；齐姆克，T.，《人类与类人机器人行为的民间心理学解释：探索机器人的有意姿态》，Front。心理医生。，8, 1-14 (2017) [9] Rao，A.S。；Georgeff，M.P.，《理性代理的抽象架构》，（Rich，C.；Swartout，W.；Nebel，B.，《第三届知识表示和推理原则国际会议论文集》（1992年），Morgan Kaufmann出版社：Morgan Koufmann-Publishers San Mateo，CA），439-449 [10] 布拉特曼，M.E。；以色列，D.J。；Pollack，M.E.，《计划与资源基础的实践推理》，《计算》。智力。，4, 349-355 (1988) [11] Bratman，M.E.，《意图、计划和实践理性》（1987），哈佛大学出版社：哈佛大学出版社，马萨诸塞州剑桥 [12] 克雷菲尔德，S。；Winikoff，M。；Dignum，V。；Dignum，F.，《没有比萨饼给你：BDI代理中基于价值的计划选择》，（《第二十六届国际人工智能联合会议论文集》，第二十六届人工智能国际联合会议论文，IJCAI-17（2017）），178-184 [13] Winikoff，M。；Dignum，V。；Dignum，F.，为什么咖啡不好？用估值解释代理计划（Gallina，B.；Skavhaug，A.；Schoitsch，E。；Bitsch，F.，《计算机安全、可靠性和安全——SAFECOMP 2018研讨会》，ASSURE、DECSS、SASSUR、STRIVE和WAISE。计算机安全、可靠性和安全——SAFECOMP 2018研讨会，ASSURE、DECSS、SASSUR、STRIVE和WAISE，瑞典瓦斯特拉斯，2018年9月18日，会议记录。计算机安全、可靠性和安全-SAFECOMP 2018研讨会，ASSURE、DECSoS、SASSUR、STRIVE和WAISE。计算机安全、可靠性和安全——SAFECOMP 2018年研讨会，ASSURE，DECSS，SASSUR，STRIVE，and WAISE，瑞典瓦斯特拉斯，2018年9月18日，计算机科学会议记录，第11094卷（2018），Springer），521-534 [14] 布坎南，B。；Shortiffe，E.，《基于规则的专家系统：斯坦福启发式编程项目的MYCIN实验》（1984），Addison-Wesley [15] Harbers，M.，《解释虚拟培训中的代理行为》（2011年），荷兰信息和知识系统研究院，SIKS论文系列编号2011-35 [16] （Roth Berghofer，T.；Schulz，S.；Bahls，D.；Leake，D.B.，解释感知计算，2007年AAAI研讨会论文。解释感知计算，2007年AAAI研讨会论文，加拿大不列颠哥伦比亚省温哥华，2007年7月22-23日。解释感知计算，2007年AAAI研讨会论文。解释感知计算，2007年AAAI研讨会论文，加拿大不列颠哥伦比亚省温哥华，2007年7月22-23日，《AAAI技术报告》，第WS-07-06卷（2007），AAAI出版社） [17] （Aha，D.；Darrell，T.；Pazzani，M.；Reid，D.；Sammut，C.；Stone，P.，《IJCAI-17可解释人工智能研讨会论文集》，XAI（2017）） [18] （Aha，D.；Darrell，T.；Doherty，P.；Magazzeni，D.，《IJCAI-18可解释人工智能研讨会论文集》，XAI（2018）） [19] 博尔戈，R。；Cashmore，M。；Magazzeni，D.，《为人工智能规划师的决策提供解释》，（Aha，D.；Darrell，T.；Doherty，P.；Magazzen，D.，会议录IJCAI-18《可解释人工智能研讨会》，XAI（2018），11-18 [20] Miller，T.，《人工智能解释：来自社会科学的见解》，Artif。智力。，267, 1-38 (2019) ·Zbl 1478.68274号 [21] Chakraborti，T。；Sreedharan，S。；Zhang，Y。；Kambhampati，S.，《作为模型调节的计划解释：超越作为独白的解释》，（《第二十六届国际人工智能联合会议论文集》，第二十六届人工智能国际联席会议论文集，IJCAI-17（2017）），156-163 [22] Lombrozo，T.，《解释与溯及推理》（牛津思考与推理手册（2012）），260-276 [23] 米利兹，G。；拉莱门特，R。；菲奥雷，M。；Alami，R.，《使用人类知识意识来适应协作计划生成、解释和监控》，（第十一届ACM/IEEE人机交互国际会议。第十一届AM/IEEE人机交互国际大会，HRI’16，IEEE出版社，美国新泽西州皮斯卡塔韦（2016）），43-50 [24] Busetta，P。；Rönnquist，R。；霍奇森。；Lucas，A.，JACK智能代理-Java中智能代理的组件（1998），面向代理软件私人有限公司。有限公司：面向代理软件私人有限公司。Ltd澳大利亚墨尔本，可从 [25] Winikoff，M.，JACK™智能代理：一个工业实力平台，（Bordini，R.H.；Dastani，M.；Dix，J.；El Fallah-Seghrouchni，A.，《多代理编程：语言、平台和应用》（2005），Springer），175-193·Zbl 1101.68456号 [26] Huber，M.J.，JAM:一种BDI理论的移动代理体系结构，（第三届自治代理国际会议论文集。第三届国际自治代理会议论文集，Agents'99（1999），ACM出版社），236-243 [27] d'Inverno，M。；Kinny，D。；幸运，M。；Wooldridge，M.，《dMARS的正式规范》（Singh，M.；Rao，A.；Wooldrige，M.），《智能代理IV：关于代理理论、架构和语言的第四次国际研讨会论文集》。《智能代理Ⅳ：关于代理论、架构和语言的第四届国际研讨会论文集中》，LNAI，第1365卷（1998），斯普林格·弗拉格），155-176 [28] Georgeff，M.P。；Lansky，A.L.，程序性知识，知识表示专刊。知识表示专刊，Proc。IEEE，741383-1398（1986） [29] Ingrand，F.F。；Georgeff，M.P。；Rao，A.S.，《实时推理和系统控制的体系结构》，IEEE Expert，7，6（1992） [30] Lee，J。；M.J.Huber。；肯尼，P.G。；Durfee，E.H.，UM-PRS：多机器人应用程序推理系统的实现，（《现场、工厂、服务和空间智能机器人会议论文集》，《现场、车间、服务和太空智能机器人会议文献集》，CIRFFSS’94（1994）），842-849 [31] Bordini，R.H。；Hübner，J.F。；Wooldridge，M.，《使用Jason在AgentSpeak中编程多代理系统》（2007），Wiley·Zbl 1132.68021号 [32] 莫利·D·。；Myers，K.，The SPARK agent framework，（第三届自治代理和多代理系统国际联合会议论文集。第三届自主代理和多智能体系统国际联合大会论文集，AAMAS（2004），IEEE Computer Society:IEEE Compute Socility Washington，DC，USA），714-721 [33] Pokahr，A。；布劳巴赫，L。；Lamersdorf，W.，Jadex:A BDI推理引擎，（Bordini，R.H.；Dastani，M.；Dix，J.；El Fallah Seghrouchni，A.，多代理编程：语言、平台和应用程序（2005），施普林格），149-174 [34] 桑加拉杰，J。；Padgham，L。；Winikoff，M.，《检测和避免智能代理中目标之间的干扰》（《第18届国际人工智能联合会议论文集》，第18届人工智能国际联合会议论文，IJCAI（2003）），721-726 [35] 桑加拉杰，J。；Padgham，L.，关于目标相互作用的计算有效推理，J.Autom。原因。，47, 1, 17-56 (2011) [36] 姚明，Y。；Logan，B.，《BDI代理的行动级意向选择》（Jonker，C.M.；Marsella，S.；Thangarajah，J.；Tuyls，K.，《2016年自治代理和多代理系统国际会议论文集》，2016年5月9日至13日，新加坡，ACM）， 1227-1236 [37] 姚明，Y。；洛根，B。；Thangarajah，J.，《通过利用意图之间的协同作用稳健执行BDI代理程序》，（Schuurmans，D.；Wellman，M.P.，《第三十届AAAI人工智能会议论文集》，2016年2月12日至17日，美国亚利桑那州凤凰城（2016），AAAI出版社）， 2558-2565 [38] Winikoff，M.，《AgentSpeak元解释器及其应用》，（第三届多代理系统编程国际研讨会。第三届编程多代理系统国际研讨会，ProMAS [39] 文森特·科曼（Vincent J.Koeman）。；欣德里克斯，科恩五世。；Jonker，Cathodlijn M.，《认知代理程序的全能调试》，（第二十六届国际人工智能联合会议论文集，第二十六届人工智能国际联合会议论文，IJCAI-17（2017）），265-272 [40] 桑加拉杰，J。；Padgham，L。；Winikoff，M.，《探测和利用智能代理中的积极目标交互作用》，（第二届自主代理和多代理系统国际联合会议论文集。第二届自治代理和多智能体系统国际联合大会论文集，AAMAS（2003），ACM出版社），401-408 [41] 维瑟，S。；桑加拉杰，J。；J·哈兰德。；Dignum，F.，BDI代理系统中基于偏好的推理，Auton。代理多代理系统。，30, 2, 291-330 (2016) [42] Burmeister，B。；阿诺德，M。；科帕丘，F。；Rimassa，G.，BDI-agents for agile goal-oriented business process，（《第七届自治代理和多代理系统国际会议论文集》，第七届国际自治代理和多重代理系统会议论文集，AAMAS[行业跟踪]，IFAAMAS（2008）），37-44 [43] Winikoff，M。；Sidorenko，G.，评估解释BDI代理行为的机制（2021年） [44] Allison，P.D。；Christakis，N.A.，排名项目集的Logit模型，Social。方法。，24, 199-228 (1994) [45] Winikoff，M.，用“为什么？”问题调试代理程序，（第16届自治代理和多代理系统会议论文集（2017）），251-259 [46] 马勒，B.F。；Knobe，J。；O'Laughlin，M.J。；Pearce，G.E。；Nelson，S.E.，行为解释的概念结构和社会功能：超越人的情境归因，J.Pers.Soc.Psycholl。，79, 309-326 (2000) [47] Miller，T.，《对比解释：结构模型方法》，CoRR [48] McClure，J。；希尔顿，D.J.，目标或先决条件更好地解释了吗？这取决于问题，欧洲心理学会。，28, 897-911 (1998) [49] Colledanchise，M。；Oh gren，P.，机器人和人工智能中的行为树：简介，CoRR [50] 阿尔福德，R。；Shivashankar，V。；罗伯茨，M。；Frank，J。；Aha，D.W.，《分层规划：将任务和目标分解与任务共享联系起来》，（Kambhampati，S.，《第二十五届国际人工智能联合会议论文集》，第二十五届人工智能国际联合会议论文，2016年7月9日至15日，美国纽约州纽约市，2016年），IJCAI/AAAI出版社），3022-3029 [51] Shivashankar，V.，《分层目标网络：规划和行动的形式和算法》（2015），马里兰大学：马里兰大学帕克学院，美国医学博士，博士论文 [52] 盖布，C.W。；Goldman，R.P.，基于计划树文法的概率计划识别算法，Artif。智力。，173, 11, 1101-1132 (2009) [53] 萨迪尼亚，S。；Padgham，L.，一种具有故障处理、声明性目标和规划的BDI代理编程语言，Auton。代理多代理系统。，23, 18-70 (2011) [54] 辛格，D。；萨迪尼亚，S。；Padgham，L.，《扩展BDI计划选择以结合从经验中学习》，机器人。自动。系统。，58, 9, 1067-1075 (2010) [55] 辛格，D。；萨迪尼亚，S。；Padgham，L。；Airiau，S.，《BDI计划选择的学习背景条件》，（van der Hoek，W.；Kaminka，G.A.；Lespérance，Y.；Luck，M.；Sen，S.第九届自治代理和多代理系统国际会议，2010年5月10日至14日，加拿大多伦多，2010年AAMAS，IFAAMAS）， 325-332 [56] 辛格，D。；萨迪尼亚，S。；Padgham，L。；James，G.，《将学习整合到BDI代理中以应对动态变化的环境》，（Walsh，T.，IJCAI 2011，第22届国际人工智能联合会议论文集。2011年，第22次国际人工智能联席会议论文集，西班牙加泰罗尼亚巴塞罗那，2011年7月16日至22日（2011），IJCAI/AAAI），第2525-2530页 [57] Guerra-Hernández，A。；El Fallah-Seghrouchni，A。；Soldano，H.，《BDI多代理系统学习》（Dix，J.；Leite，J.，《多代理系统中的计算逻辑》（2005），Springer:Springer Berlin，Heidelberg），218-233·Zbl 1110.68504号 [58] Phung，T。；Winikoff，M。；Padgham，L.，《BDI框架内的学习：实证分析》（Khosla，R.；Howlett，R.J.；Jain，L.C.，《基于知识的智能信息和工程系统》（2005），施普林格：施普林格柏林，海德堡），282-288 此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。