×
辽、北水;佩雷·帕尔多;玛丽亚·斯拉夫科维奇;范德托雷、伦德特

吉米尼顾问：利益相关者之间基于规范和论证的道德协议。 （英语） Zbl 07753313号

J.阿蒂夫。智力。研究（JAIR） 77, 737-792 (2023).
摘要：自主系统由制造商构建，在受规范和法律约束的社会中运行，并与最终用户交互。所有这些参与者都是受自治系统行为影响的利益相关者。我们解决了如何将这些利益相关者的道德观点融入自治系统行为中的挑战。我们提出了一个名为Jiminy的道德建议组件，它使用规范体系和正式论证中的技术，在利益相关者之间达成道德协议。Jiminy通过使用规范体系代表每个利益相关者的道德观点，并有三种解决道德困境的方法，涉及利益相关者意见。首先，Jiminy考虑了利益相关者的论点如何相互关联，这可能已经解决了这个难题。其次，联合会将利益相关者的规范体系结合起来，这样利益相关者结合起来的专业知识就可以解决这一难题。第三，只有当这两种其他方法失败时，Jiminy才会使用上下文敏感规则来决定哪些利益相关者优先于其他利益相关者。在抽象层面上，这三种方法的特点是添加自变量、在自变量之间添加攻击和修改自变量之间的攻击。我们展示了Jiminy如何不仅可以用于道德推理和协作决策，还可以提供关于道德行为的解释。

MSC公司：

68时01分 人工智能的一般主题
68T27型 人工智能中的逻辑
68T42型 Agent技术与人工智能

关键词：

多智能体系统;偏好;非单调推理
PDF格式BibTeX公司 XML格式引用
\textit{B.Liao}等人，J.Artif。智力。研究（JAIR）77，737--792（2023；Zbl 07753313）
全文： DOI程序 arXiv公司

参考文献：

[1] Alchourrón，C.E.和Bulygin，E.（1981）。规范的表达概念。Hilpinen，R.（编辑），《道义逻辑的新研究》，第95-124页。D.Reidel，多德雷赫特。
[2] Alchourrón，C.E.（1991年）。规范冲突和规范体系修订。法律与哲学，10413-425。
[3] 安德森，M.和安德森，S.L.（2014）。GenEth：一位普通的道德两难分析人士。《第28届美国建筑师学会人工智能会议记录》，第253-261页。
[4] Arisaka，R.、Dauphin，J.、Satoh，K.和van der Torre，L.（2022）。多主体论证和对话。襟翼，9（4），891-924·Zbl 07659876号
[5] Arkin，R.、Ulam，P.和Duncan，B.（2009年）。在自治系统中约束致命行动的道德管理者。乔治亚理工学院移动机器人实验室技术代表GIT-GVU-09-02。
[6] Arkin，R.、Ulam，P.和Wagner，A.R.（2012）。自主系统中的道德决策：执行、道德情感、尊严、信任和欺骗。程序。IEEE标准，100（3），571-589。
[7] Atkinson，K.和Bench-Capon，T.J.M.（2018）。在基于价值的推理中考虑他人的行为。Artif公司。智力。，254, 1-20. ·Zbl 1423.68478号
[8] Awad，E.，Dsouza，S.，Kim，R.，Schulz，J.，Henrich，J.、Shariff，A.、Bonnefon，J.和Rahwan，I.（2018年）。道德机器实验。《自然》，563（7729），59-64。
[9] Awad，E.、Anderson，M.、Andersons，S.L.和Liao，B.（2020年）。一种将道德原则与公众舆论相结合以指导公共政策的方法。Artif公司。智力。，287, 103349. ·Zbl 1493.68285号
[10] Baroni，P.、Gabbay，D.、Giacomin，M.和van der Torre，L.（编辑）。(2018).形式论证手册，第1卷。学院出版物·Zbl 1395.03005号
[11] Baroni，P.、Giacomin，M.和Liao，B.（2015）。处理结构化论证中的类属对立。第二十四届国际联席会议记录
[12] Baroni，P.、Giacomin，M.和Liao，B.（2018年）。计算论证的一般半结构形式：定义、性质和应用示例·Zbl 1444.68176号
[13] Baum，S.D.（2020年）。人工智能中的社会选择伦理。AI Soc.，35（1），165-176。
[14] Bench-Capon，T.J.M.和Modgil，S.（2017年）。规范和基于价值的推理：证明遵守和违反的合理性。Artif公司。智力。法律，25（1），29-64。
[15] Bench-Capon，T.J.M.、Prakken，H.和Sartor，G.（2010年）。法律推理中的论证。人工智能中的争论。斯普林格。
[16] Biran，O.，&Cotton，C.（2017年）。机器学习中的解释和论证：一项调查。《IJCAI可解释人工智能研讨会论文集》（XAI 2017），第8-13页。
[17] 比约根，E.P.，马德森，S.，比约尔克内斯，T.S.，海姆斯-特，F.V.，Hóvik，R.，林德鲁德，M.，隆伯格，P.，丹尼斯，L.A.，&斯拉夫科维奇，M.（2018）。蛋糕、死亡和手推车：作为道德决策基准的两难境地。In Furman，J.，Marchant，G.E.，Price，H.，&Rossi，F.（编辑），2018年AAAI/ACM人工智能会议论文集，
[18] Boella，G.和van der Torre，L.（2006）。规范多智能体系统设计中的构成规范。多智能体系统中的InComputation Logic，第六届国际·Zbl 1236.68247号
[19] Booth，R.、Caminada，M.和Marshall，B.（2018年）。DISCO：基于web的讨论游戏实现，用于固定和首选语义。在Modgil，S.、Budzynska，K.和Lawrence，J.（编辑）的《论证的计算模型——2018年通信管理会议记录》中，
[20] Brandt，F.、Conitzer，V.、Endriss，U.、Lang，L.和Procaccia，A.D.（编辑）。(2016).计算社会选择手册。剑桥大学出版社·Zbl 1436.91001号
[21] Bremner，P.、Dennis，L.A.、Fisher，M.和Winfield，A.F.T.（2019年）。关于机器人的主动、透明和可验证的道德推理。程序。IEEE，107（3），541-561。
[22] Brewka，G.（1994）。推理默认逻辑中的优先级。在7月31日至8月4日于美国华盛顿州西雅图举行的第十二届全国人工智能会议上·Zbl 0988.68614号
[23] Brewka，G.和Eiter，T.（1999）。扩展逻辑程序的首选答案集。Artif公司。智力。，109(1-2), 297-356. ·Zbl 0916.68091号
[24] Bringsjord，S.、Arkoudas，K.和Bello，P.（2008）。走向一种通用的逻辑主义方法论，用于设计符合道德规范的机器人。IEEE智能系统，21（4），38-44。
[25] Broersen，J.M.、Dastani，M.、Hulstijn，J.、Huang，Z.和van der Torre，L.W.N.（2001）。BOID架构：信仰、义务、意图和愿望之间的冲突·Zbl 1001.68145号
[26] Caminada，M.和Amgoud，L.（2007年）。论论证形式的评价。Artif公司。智力。，171(5-6), 286-310. ·Zbl 1168.68562号
[27] Charisi，V.、Dennis，L.、Fisher，M.、Lieck，R.、Matthias，A.、Slavkovik，M.，Sombetzki，J.、Winfield，A.和Yampolskiy，R.（2017）。走向道德自主体系。CoRR，abs/1703.04741。
[28] Chopra，A.、van der Torre，L.、Verhagen，H.和Villata，S.（2018年）。标准多智能体系统手册。学院出版物·Zbl 1474.68001号
[29] Cocarascu，O.、Cyras，K.和Toni，F.（2018年）。用人工神经网络和论证进行解释性预测。IJCAI/ECAI研讨会会议记录
[30] Cyras，K.和Toni，F.（2016年）。ABA+：基于假设的偏好论证。在Baral，C.、Delgrande，J.P.和Wolter，F.（编辑）的《知识表示原理》中
[31] da Costa Pereira，C.、Liao，B.、Malerba，A.、Rotolo，A.、Tettamnzi，A.G.B.、van der Torre，L.和Villata，S.（2018年）。通过形式化论证处理多智能体系统中的规范。在Chopra，A.、van der Torre，L.、Verhagen，H.和Villata，S.（编辑）·Zbl 1474.68335号
[32] Dennis，L.A.、Fisher，M.、Slavkovik，M.和Webster，M.P.（2016）。自主系统中道德选择的正式验证。机器人与自治系统，77，1-14。
[33] Dignum，V.（2017）。负责任的自治。第26届IIJCAI会议记录，第4698-4704页。
[34] Dung，P.M.（1995）。论据的可接受性及其在非单调推理、逻辑编程和n人博弈中的基本作用。人工智能，77（2），321-358·Zbl 1013.68556号
[35] Dung，P.M.、Thang，P.M和Son，T.C.（2019年）。关于有条件偏好的结构化论证。在第三十三届AAAI人工智能会议上，
[36] Dyrkolbotn，S.、Pedersen，T.和Slavkovik，M.（2018年）。关于隐性道德代理和显性道德代理的区别。2018年AAAI/ACM人工智能会议记录，
[37] Etzioni，A.和Etzioi，O.（2017年）。将伦理纳入人工智能。《伦理学杂志》，21（4），403-418。
[38] Fan，X.和Toni，F.（2015）。论论证中的计算解释。InAAAI，第1496-1502页。AAAI出版社。
[39] Gabbay，D.、Horty，J.、Parent，X.、van der Meyden，R.和van der Torre，L.（编辑）。(2013). 道义逻辑和规范系统手册。伦敦大学出版社·Zbl 1309.03001号
[40] Gabbay，D.、Giacomin，M.、Simari，G.和Thimm，M.（编辑）。(2021).形式论证手册，第2卷。学院出版物。
[41] Gabbay，D.M.、Giacomin，M.、Liao，B.和van der Torre，L.W.N.（2018）。形式论证的现状和未来（达格斯图尔观点研讨会15362）。达格斯图尔宣言，
[42] Gaggl，S.A.和Woltran，S.（2013年）。重新审视了cf2论证语义。J.日志。计算。，23(5), 925-949. ·Zbl 1275.68138号
[43] Grossi，D.和Jones，A.（2013年）。构成规范和计数作为条件。在Horty，J.、Gabbay，D.、Parent，X.、van der Meyden，R.和van der Torre，L.（编辑），手册·Zbl 1367.03038号
[44] Hadfield-Menell，D.、Dragan，A.、Abbeel，P.和Russell，S.（2017年）。非开关游戏。在第三十一届AAAI人工智能会议的研讨会上，
[45] Horty，J.F.（1994）。道德困境和非单调逻辑。J.菲洛斯。日志。，23(1), 35-65. ·Zbl 0796.03035号
[46] Liao，B.S.，Jin，L.，&Koons，R.C.（2011年）。论证系统动力学：基于划分的方法。Artif公司。智力。，175(11), 1790-1814. ·Zbl 1226.68101号
[47] Liao，B.、Anderson，M.和Anderson S.L.（2021年）。价值驱动代理中的表示、论证和解释：基于论证的方法。AI伦理学，1（1），5-19。
[48] Liao，B.、Oren，N.、van der Torre，L.W.N.和Villata，S.（2016）。在正式论证中优先考虑规范和缺省。在Roy，O.、Tamminga，A.M.和Willer，M.（编辑）中·Zbl 1418.03094号
[49] Liao，B.和van der Torre，L.（2020）。抽象论证的解释语义。在Prakken，H.、Bistarelli，S.、Santini，F.和Taticchi，C.（编辑）·Zbl 1464.68365号
[50] Lindahl，L.和Odelstad，J.（2013）。TJS公司。具有中介的规范体系的正式框架。Horty，J.、Gabbay，D.、Parent，X.、van der Meyden，R.和van der Torre，L.（编辑），《道义逻辑和规范系统手册》。学院出版物·Zbl 1367.03042号
[51] Lindner，F.和Bentzen，M.（2017年）。混合道德推理代理IMMANUEL。2017年ACM/IEEE人类机器人国际会议比较
[52] Makinson，D.（1999）。道义逻辑的一个基本问题。在McNamara，P.和Prakken，H.（编辑）的《规范、逻辑和信息系统》中。Deotic的新研究·Zbl 0943.03005号
[53] Makinson，D.和van der Torre，L.（2000）。输入-输出逻辑。《哲学逻辑杂志》，29（4），383-408·Zbl 0964.03002号
[54] Malle，B.F.、Scheutz，M.、Arnold，T.、Voiklis，J.和Cusimano，C.（2015）。为了许多人的利益牺牲一个人们对人类和机器人代理人适用不同的道德规范。在
[55] Martino，A.A.和Socci Natali，F.（编辑）。(1986).允许规范和规范概念。阿姆斯特丹：北荷兰。
[56] Miller，T.（2019）。人工智能解释：来自社会科学的见解。Artif公司。智力。，267, 1-38. ·Zbl 1478.68274号
[57] Modgil，S.（2009）。推理论证框架中的偏好。Artif公司。整数。，173(9-10), 901-934. ·Zbl 1192.68663号
[58] Modgil，S.和Prakken，H.（2013）。对有偏好的辩论的一般描述。Artif公司。智力。，195, 361-397. ·Zbl 1270.68284号
[59] Moor，J.H.（2006）。机器伦理的性质、重要性和困难。IEEE智能系统，21（4），18-21。
[60] Pardo，P.和Straßer，C.（2022）。形式论证中缺省的模序。逻辑与计算杂志，33，即将出版。
[61] Parent，X.和van der Torre，L.（2018年）。道义逻辑和规范系统导论。学院出版物·Zbl 1431.03034号
[62] Pigozzi，G.和van der Torre，L.（2018）。关于构成规范和监管规范的争论。《应用非经典逻辑杂志》，28（2-3），189-217·Zbl 1436.03141号
[63] Reiter，R.（1980）。默认推理的逻辑。Artif公司。智力。，13(1-2), 81-132. ·Zbl 0435.68069号
[64] Robinson，P.（2021）。道德分歧和人工智能。在Fourcade，M.、Kuipers，B.、Lazar，S.和Mulligan，D.K.（编辑），AIES’21：AAAI/ACM人工智能会议，
[65] Ross，A.（1941年）。命令和逻辑。理论，753-71。转载于1944年《科学哲学》11:30-46。
[66] Ross，A.（1957）。多多。《哈佛法律评论》，70812-825。
[67] Searle，J.（1969年）。言语行为。语言哲学论文。剑桥大学出版社，剑桥。
[68] Shariff，A.、Bonnefon，J.和Rahwan，I.（2017年）。采用自动驾驶汽车的心理障碍。《自然-人类行为》，1（10），694-696。
[69] Sileno，G.、Boer，A.和van Engers，T.（2014）。使用答案集编程实现基于解释的论证。第十一届国际辩论研讨会
[70] Stenius，E.（1963年）。规范体系逻辑的原则。《费尼卡哲学学报》，第16期，第247-260页·Zbl 0122.00703号
[71] Vanderelst，D.和Winfield，A.F.T.（2018年）。受认知模拟理论启发的道德机器人体系结构。认知。系统。第48号决议，第56-66段。
[72] 采拉斯·K、佐藤·K和托尼·F（2016）。通过抽象论证解释基于案例的推理。《论证的计算模型——COMMA会议录》，第243-254页。
[73] Vreeswijk，G.和Prakken，H.（2000）。偏好语义的可信和怀疑的争论游戏。InJELIA，LNCS第1919卷，第239-253页。斯普林格·Zbl 0998.68162号
[74] Wallach，W.和Allen，C.（2008）。道德机器：教机器人正确与错误。牛津大学出版社。
[75] Walton，D.（2011）。用于解释的对话系统规范。合成，182（3），349-374。
[76] Young，A.P.、Modgil，S.和Rodrigues，O.（2016）。优先默认逻辑作为理性论证
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。