萨拉斯·斯里德哈兰；查克拉博蒂，如来；苏巴拉奥·坎巴帕蒂 作为模型调节的解释基础。 （英语） Zbl 1478.68336号 Artif公司。智力。 301，文章ID 103558，35 p.（2021）。 总结：过去关于计划解释的工作主要涉及人工智能系统，该系统根据自己的模型解释其计划的正确性和决策的基本原理。这种独白在大多数现实场景中是完全不够的，因为用户的领域和任务模型与人工智能系统使用的模型不同。我们认为，最好根据这些不同的模型来研究这些解释。特别是，我们展示了如何将解释视为“模型协调问题”（MRP），即人工智能系统实际上建议改变用户的心理模型，从而使其计划相对于改变后的用户模型是最优的。我们将研究这些解释的性质，提出自动计算它们的算法，讨论对基本框架的相关扩展，并通过经验和受控用户研究评估所提算法的性能。 引用于1文件 MSC公司： 68T20型 人工智能背景下的问题解决（启发式、搜索策略等） 68立方英尺 知识表示 关键词：可解释人工智能；自动化规划；思想模型 PDF格式BibTeX公司 XML格式引用 \textit{S.Sreedharan}等人，Artif。智力。301，文章ID 103558，35 p.（2021；Zbl 1478.68336） 全文： 内政部 参考文献： [1] 焊接，D.S。；Bansal，G.，《制造可理解情报的挑战》，Commun。ACM（2019年） [2] Chakraborti，T。；Sreedharan，S。；Kambhampati，S.，《可解释人工智能规划和决策的新兴景观》（IJCAI（2020）） [3] 兰利，P。；梅多斯，B。；Sridharan，M。；Choi，D.，智能自治系统可解释机构（AAAI/IAAI（2017）） [4] Kambhampati，S.，《基于覆盖和信息需求的计划修改策略分类》（AAAI基于案例推理春季研讨会（1990）） [5] Sohrabi，S。；J.A.，拜尔；McIlraith，S.A.，《首选解释：理论与规划发电》（AAAI（2011）） [6] Seegebarth，B。；缪勒，F。；Schattenberg，B。；Biundo，S.，《让人类用户更清楚地了解混合计划——生成合理解释的正式方法》（ICAPS（2012）） [7] Meadows，B.L。；兰利，P。；Emery，M.J.，《超越阴影的视野：计划理解的增量诱因推理》（AAAI计划、活动和意图识别研讨会（PAIR），2013年） [8] Langley，P.，《可解释机构的多样性》（ICAPS可解释人工智能规划研讨会（XAIP）（2019年）） [9] 周，Y。；Danks，D.，不同人群的“可理解性”不同（AIES/AAAI（2020）） [10] 福克斯，M。；Long，D。；Magazzeni，D.，可解释规划（IJCAI可解释人工智能研讨会（XAI）（2017）） [11] Smith，D.E.，《作为迭代过程的规划》（AAAI（2012）） [12] Cashmore，M。；柯林斯。；克拉鲁普，B。；Krivic，S。；Magazzeni，D。；Smith，D.，《将可解释的人工智能规划作为一种服务》（ICAPS可解释人工智能规划研讨会（XAIP）（2019年）） [13] Miller，T.，《人工智能解释：来自社会科学的见解》，Artif。智力。J.（2017） [14] 麦克德莫特，D。；加拉布，M。；Howe，A。；Knoblock，C。；拉姆，A。；维洛索，M。；焊缝，D。；Wilkins，D.，PDDL——规划领域定义语言（1998） [15] Bartlett，C.E.，《城市搜索救援团队成员之间的沟通》（2015），亚利桑那州立大学，论文 [16] 墨菲，R.R。；Tadokoro，S。；Nardi，D。；雅科夫，A。；菲奥里尼，P。；Choset，H。；Erkmen，A.M.，《搜索和救援机器人》（《机器人手册》（2008）） [17] Zhang，Y。；纳拉亚南，V。；Chakraborti，T。；Kambhampati，S.，《人机协作中主动协助的人为因素分析》（IROS（2015）） [18] 塔拉马杜普拉，K。；布里格斯（Briggs，G.）。；Chakraborti，T。；Scheutz，M。；Kambhampati，S.，《使用心理建模和计划识别的人机团队协调》（IROS（2014）） [19] 罗素，S。；Norvig，P.，《人工智能：现代方法》（2003），普伦蒂斯·霍尔 [20] Zhang，Y。；Sreedharan，S。；Kulkarni，A。；Chakraborti，T。；Zhuo，H.H。；Kambhampati，S.，《机器人任务规划的规划可解释性和可预测性》（ICRA（2017）） [21] Zhang Sreedharan，Y。；Kulkarni，A。；Chakraborti，T。；Zhuo，H.H。；Kambhampati，S.，《机器人任务规划的规划可解释性》（RSS人机交互规划研讨会：共享自主与协作机器人学（2016）） [22] Kulkarni，A。；Chakraborti，T。；查，Y。；瓦德拉穆迪，S.G。；Zhang，Y。；Kambhampati，S.，《可解释的机器人规划：最小化与预期行为的距离》（AAMAS扩展摘要（2019）） [23] 斯里瓦斯塔瓦，B。；Nguyen，T.A。；Gerevini，A。；Kambhampati，S。；做，M.B。；Serina，I.，《寻找不同计划的独立领域方法》（IJCAI（2007）） [24] Nguyen，T.A。；做，M。；Gerevini，A.E。；丝琳娜，I。；斯利瓦斯塔瓦，B。；Kambhampati，S.，生成处理未知和部分已知用户偏好的不同计划，Artif。智力。J.（2012） [25] Riabov，A。；Sohrabi，S。；Udrea，O.，ICAPS的Top-K规划问题的新算法，调度和规划应用研讨会（SPARK）（2014） [26] Grover，S。；Sengupta，S。；Chakraborti，T。；Mishra，A.P。；Kambhampati，S.，《雷达：主动决策支持的自动化任务规划》，HCI J.l（2020） [27] Chakraborti，T。；Kambhampati，S.，（人工智能机器人如何撒谎？）？，（ICAPS可解释人工智能规划研讨会（XAIP）（2019年）） [28] 艾萨克，A。；Bridewell，W.，White撒谎：为什么机器人需要欺骗（以及如何欺骗），J.Robot Ethics（2017） [29] 查克拉博蒂，T。；Kambhampati，S.，（何时）AI机器人可以撒谎？，（AIES/AAAI（2019）） [30] Palmieri，J.J。；Stern，T.A.，《躺在医患关系中》，《临床医学杂志》的初级护理伴侣。精神病学，11，163（2009） [31] 福克斯，M。；Howey，R。；Long，D.，《在过程和外部事件背景下验证计划》（AAAI（2005）） [32] Howey，R。；Long，D。；Fox，M.，VAL：使用PDDL的自动计划验证、持续效果和混合倡议规划（ICTAI（2004）） [33] Zahedi，Z。；奥尔莫，A。；Chakraborti，T。；Sreedharan，S。；Kambhampati，S.，《将解释类型的用户偏好理解为模型调节》（HRI（2019）），《最新报告》 [34] Wayllace，C。；Hou，P。；杨，W。；Son，T.C.，随机代理人行动结果的目标识别设计（IJCAI（2016）） [35] 克伦，S。；Pineda，L。；加尔，A。；卡帕斯，E。；Zilberstein，S.，随机环境中的等效用最大化设计（IJCAI（2017）） [36] 布莱斯，D。；Benton，J。；Boldt，M.W.，《维护不断发展的领域模型》（IJCAI（2016）） [37] Nguyen，T。；Sreedharan，S。；Kambhampati，S.，《不完整领域模型的稳健规划》，Artif。智力。（2017年）·Zbl 1402.68164号 [38] Albore，A。；帕拉西奥斯，H。；Geffner，H.，《基于翻译的应急计划方法》（IJCAI（2009）），1623-1628 [39] 博内，B。；Geffner，H.，一种比AO*更好的算法？，（AAAI（2005）），1343-1348 [40] 尼尔森，N.J.，《人工智能原理》（1980），摩根·考夫曼·兹比尔0422.68039 [41] Zakershahrak，M。；龚，Z。；北萨达西瓦姆。；Zhang，Y.，人机团队的在线解释生成，（ICAPS可解释人工智能规划研讨会（XAIP）（2019）） [42] 新泽西州库克。；戈尔曼，J.C。；Myers，C.W。；Duran，J.L.，《交互式团队认知》（2013），《认知科学》 [43] 里贝罗，M.T。；辛格，S。；Guestrin，C.，我为什么要信任你解释任何分类器的预测，（KDD（2016）） [44] 里贝罗，M.T。；辛格，S。；Guestrin Anchors，C.，高精度模型认知解释（AAAI（2018）） [45] Sreedharan，S。；Srivastava，S。；Kambhampati，S.，《用户特定对比解释的层次化专业知识水平建模》（IJCAI（2018）） [46] Srivastava，S。；罗素·S·J。；Pinto，A.，规划领域描述的形而上学（AAAI（2016）） [47] Marthi，B。；罗素·S·J。；Wolfe，J.A.，《高级动作的天使语义学》（ICAPS（2007）），第232-239页 [48] Vasileiou，S。；Yeoh，W。；Son，T.C.，《解释生成的初步逻辑方法》（ICAPS可解释人工智能规划研讨会（XAIP）（2019年）） [49] Vasileiou，S.L。；普雷维蒂，A。；Yeoh，W.，《关于利用打击集进行模型协调》（AAAI（2020）） [50] 拉格，I。；Lifschitz，D。；Doshi-Velez，F。；Amir，O.，《探索代理策略摘要的计算用户模型》（IJCAI（2019）） [51] Sreedharan，S。；埃尔南德斯，A.O。；Mishra，A.P。；Kambhampati，S.，《无模型调节》（IJCAI（2019）） [52] Sreedharan，S。；Srivastava，S。；史密斯，D。；Kambhampati，S.，为什么你不能这么做？解释规划任务的不可解决性（IJCAI（2019）） [53] Helmert，M.，《快速向下规划系统》（JAIR（2006））·Zbl 1182.68245号 [54] Alkhazraji，Y。；弗罗拉特，M。；Grützner，M。；利贝特罗，T。；奥尔特利布，M。；Seipp，J.等人。；斯普林伯格，T。；斯塔尔，P。；Wülfing，J。；赫尔默特，M。；Mattmüller，R.，Pyperplan（2016年） [55] 国际规划竞赛，IPC竞赛领域（2011年） [56] Chakraborti，T。；Sreedharan，S。；Kambhampati，S.，《在人性化规划中平衡可解释性和解释性》（IJCAI（2019）） [57] Allan，K.，Common ground–aka“常识”，“互识”，“共享知识”，“假定熟悉度”，“推定背景信息”，（《语用学手册》（2013）） [58] 艾夫勒，R。；Cashmore，M。；霍夫曼，J。；Magazzeni，D。；Steinmetz，M.，《计划空间解释的新方法：分析超额认购计划中的计划属性依赖性》（2020年），AAAI [59] 霍夫曼，J。；Magazzeni，D.，可解释人工智能规划（XAIP）：对比解释的概述和案例，（推理网络。可解释人工智能（2019）），扩展摘要 [60] Miller，T.，《对比解释：结构模型方法》（2018） [61] Lombrozo，T.，解释的结构和功能，趋势认知。科学。(2006) [62] Lombrozo，T.，《解释与溯及推理》（《牛津思考与推理手册》（2012）） [63] M.Göbelbecker、T.Keller、P.Eyerich、M.Brenner、B.Nebel，《想出好借口：找不到计划时该怎么办》，2010年。 [64] 赫齐格，A。；梅内泽斯，V。；de Barros，L.N。；Wassermann，R.，《关于规划任务的修订》（ECAI（2014））·Zbl 1366.68263号 [65] 艾特，T。；Erdem，E。；芬克，M。；Senko，J.，更新动作域描述，Artif。智力。J.（2010）·Zbl 1225.68251号 [66] 波蒂厄斯，J。；Lindsay，A。；里德·J。；特鲁兰，M。；Cavazza，M.，使用反义词操作符自动扩展叙事规划领域（AAMAS（2015）） [67] 施沃，M。；Klassen，T.Q。；Sohrabi，S。；McIlraith，S.A.，认识论计划识别（AAMAS（2020）） [68] Sreedharan，S。；查克拉博蒂，T。；Muise，C。；Kambhampati，S.，《期望软件规划：一个统一的框架，用于综合和执行人类感知规划的自我解释计划》（AAAI（2020）） [69] T.Miller，《社会规划-与他人推理和关于他人的推理》，2017年。受邀在IJCAI认知伙伴关系阻抗匹配研讨会上发表演讲。 [70] Muise，C.J。；贝勒，V。；Felli，P。；McIlraith，S.A。；米勒，T。；皮尔斯，A.R。；Sonenberg，L.，《多主体认知状态的规划：经典规划方法》（AAAI（2015）） [71] Myers，C。；鲍尔，J。；库克，N。；弗里曼，M。；凯斯，M。；罗杰斯，S。；德米尔，M。；McNeese，N.，团队培训的自主智能代理，IEEE Intell。系统。(2018) [72] McNeese，N。；德米尔，M。；Chiou，E。；库克，N。；Yanikian，G.，《理解信任在人类自治团队中的作用》，（第52届夏威夷国际系统科学会议（2019年）论文集） [73] Chakraborti，T。；Fadnis，K.P。；Talamadupula，K。；霍拉基亚，M。；斯利瓦斯塔瓦，B。；Kephart，J.O。；Bellamy，R.K.E.，智能会议室助理的规划和可视化——IBM T.J.Watson研究中心认知环境实验室的案例研究，约克敦，AI Communication（2019） [74] Sreedharan，S。；Chakraborti，T。；Muise，C。；Khazaeni，Y。；Kambhampati，S.，D3WA+：XAIP在模型获取任务中的案例研究（ICAPS（2020）） [75] Grover，S。；Chakraborti，T。；Kambhampati，S.，自动化规划对智能教学系统有什么作用？，（ICAPS（2018）的日程安排和规划应用研讨会（SPARK）） [76] 韦策尔，J。；VanLehn，K。；巴特勒，D。；Chaudhari，P。；德赛，A。；冯，J。；Grover，S。；Joiner，R。；Kong-Sivert，M。；Patade，V.，龙骑兵模型构建智能教学系统的设计与开发：经验教训，互动。学习。环境。(2017) [77] Kambhampati，S。；Chakraborti，T。；Sreedharan，S。；Kulkarni，A.，《为人机交互综合可解释和欺骗性行为》（AAAI教程（2020）） [78] Madumal，P。；米勒，T。；Sonenberg，L。；Vetere，F.，《通过因果透镜进行可解释强化学习》（AAAI（2020）） [79] 尼古拉迪斯，S。；拉索塔，P。；Ramakrishnan，R。；Shah，J.，《通过交叉训练提高人-机器人团队绩效》，国际机器人协会。研究（2015） [80] 哈德菲尔德-梅内尔，D。；罗素·S·J。；Abbeel，P。；Dragan，A.，《合作反向强化学习》（NIPS（2016）） [81] Vasileiou，S.L。；Yeoh，W.，答案集编程的条件更新及其在可解释规划中的应用，（AAMAS（2020）），扩展摘要 [82] Shvo，M。；McIlraith，S.A.，《走向移情规划》（2019年） [83] 佩雷拉，V。；Selvaraj，S.P。；罗森塔尔，S。；Veloso，M.，机器人语言的动态生成和精炼，（RO-MAN（2016）） [84] Chakraborti，T。；Sreedharan，S。；Kulkarni，A。；Kambhampati，S.，混合现实工作空间中机器人的人在环操作的投影感知任务规划和执行，（IROS（2018）） [85] 弗里德曼，R.G。；Chakraborti，T。；Talamadupula，K。；Magazzeni博士。；Frank，J.D.，《用户界面与调度与规划：研讨会总结与拟议挑战》，摘自：2018年AAAI人工智能用户体验设计春季研讨会（2018年） 此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。