瑞秋·弗里德曼;Jana Schaich博格;沃尔特·辛诺特·阿姆斯特朗;约翰·P·迪克森。;文森特·科尼策 调整肾脏交换算法以符合人类价值观。 （英语） Zbl 1433.68317号 Artif公司。智力。 283，文章ID 103261，14 p.（2020）. 摘要：有限资源的高效公平分配是经济学和计算机科学中的经典问题。在肾脏交换中，中央做市商将活体肾脏捐赠者分配给需要器官的患者。肾脏交换中的患者和捐赠者使用委员会确定的特别权重进行优先排序，然后输入分配算法，该算法确定谁得到什么，谁不得到。在本文中，我们提供了一种端到端的方法来估计肾脏交换中个体参与者档案的权重。我们首先从人类受试者身上提取出他们认为可以接受的患者属性列表，以便对患者进行优先级排序（例如，医疗特征、生活方式选择等）。然后，我们要求受试者在患者档案之间进行比较查询，并根据他们的回答原则性地估计权重。我们展示了如何在肾脏交易市场清算算法中使用这些权重。然后，我们评估了模拟中权重的影响，发现我们计算的权重的精确数值无关紧要，除了它们所暗示的轮廓顺序之外。然而，与根本不优先考虑患者相比，这是一个显著的效果，某些类别的患者会根据人类引发的价值判断被（取消）优先考虑。 引用于1文件 MSC公司： 68时01分 人工智能的一般主题 91B14号机组 社会选择 91B68型 匹配的模型 92 C50 医疗应用（通用） 关键词：道德人工智能;人机兼容人工智能;计算型社会选择;偏好聚合;肾脏交换 PDF格式BibTeX公司 XML格式引用 \textit{R.Freedman}等人，Artif。智力。283，文章ID 103261，14 p.（2020；Zbl 1433.68317） 全文： 内政部 arXiv公司 参考文献： [1] 亚伯拉罕·D。；Blum，A。；Sandholm，T.，《易货交易市场的清算算法：实现全国性肾脏交易》（ACM EC（2007）），295-304 [2] 艾伦，C。；斯密特，I。；Wallach，W.，《人工道德：自上而下、自下而上和混合方法》，《技术伦理学》。，7, 3, 149-155 (2005) [3] 安德森，M。；Anderson，S.，《机器伦理学》，231-492（2011），剑桥大学出版社 [4] 安德森，R。；阿什拉吉，I。；加马尼克，D。；Roth，A.E.，《利用旅行推销员问题发现肾脏交换中的长链》，Proc。国家。阿卡德。科学。，112, 3, 663-668 (2015) [5] I.Ashlagi，D.Gamarnik，M.Rees，A.E.Roth，《肾脏交换中（长）链的需要》，2017年，初始版本出现在ACM电子商务会议（EC-12）上。 [6] 阿什拉吉，I。；Roth，A.E.，《搭便车和参与大规模、多医院肾脏交换》，Theor。经济。，9, 817-865 (2014) ·Zbl 1395.91337号 [7] 巴恩哈特，C。；约翰逊，E.L。；纳姆豪泽，G.L。；Savelsbergh，M.W.P。；Vance，P.H.，《分支与价格：求解大型整数程序的列生成》，Oper。决议，46，3，316-329（1998）·Zbl 0979.90092号 [8] Baum，K。；Hermanns，H。；Speith，T.，《从机器伦理到机器解释及其背后》（ISAIM（2018）） [9] 比罗，P。；伯纳普，L。；Haase，B。；Hemke，A。；约翰逊，R。；范德克伦特，J。；Manlove，D.，《欧洲的肾脏交换实践》（成本行动第一本手册CA15210：欧洲肾脏交换计划合作网络（2017）） [10] 比罗，P。；Cechlárová，K.，《肾脏交换问题的不近似性》，Inf.Process。莱特。，101, 5, 199 (2007) [11] 比罗，P。；Manlove，D.F。；Rizzi，R.，有向图中的最大重量循环填充，应用于肾脏交换程序，离散数学。算法应用。，1, 04, 499-517 (2009) ·Zbl 1194.05121号 [12] Blum，A。；Caragiannis，我。；哈特拉布，N。；普罗卡西亚，A。；Procaccia，E。；Vaish，R.，《选择最佳匹配》（SODA（2017））·Zbl 1410.05160号 [13] Bonnefon，J.-F。；谢里夫，A。；Rahwan，I.，《自动驾驶汽车的社会困境》，《科学》，352、6293、1573-1576（2016） [14] Bradley，R.A.，14对比较：一些基本程序和示例，（非参数方法，非参数方法统计手册，第4卷（1984年）），299-326·Zbl 0597.62081号 [15] Bringsjord，S。；Naveen Sundar，G。；马勒，B.F。；Scheutz，M.，《道德正确机器人的情境道义认知事件计算》，（国际人工智能与数学研讨会，国际人工智能和数学研讨会，ISAIM 2018，美国佛罗里达州劳德代尔堡，2018年1月3日至5日（2018）） [16] 科尼策，V。；西恩诺特·阿姆斯特朗。；Borg，J.S。；邓，Y。；Kramer，M.，《人工智能道德决策框架》（AAAI（2017）），4831-4835，蓝天轨道 [17] Dickerson，J.P。；Manlove，D。；普劳特，B。；桑德霍姆，T。；Trimble，J.，肾脏交换的位置诱导配方，（ACM EC（2016）） [18] Dickerson，J.P。；Procaccia，医学博士。；Sandholm，T.，Failure-aware肾脏交换，Manag。科学。，65, 4, 1768-1791 (2019) [19] Dickerson，J.P。；Sandholm，T.，《FutureMatch:结合人类价值判断和机器学习在动态环境中进行匹配》（AAAI（2015）），622-628 [20] 埃尔金德，E。；斯林科，A.，《投票规则的合理化》（Brandt，F.；Conitzer，V.；Endriss，U.；Lang，J.；Procaccia，A.D.，《计算社会选择手册》（2015），剑桥大学出版社），（第8章）·Zbl 1448.91099号 [21] 埃尔金，H。；Sönmez，T。；U nver，M.U.，《多捐赠者器官交换》（2017年），工作文件·Zbl 1420.91356号 [22] 法里纳，G。；Dickerson，J.P。；Sandholm，T.，《肾脏置换手术框架和俱乐部》（IJCAI（2017）） [23] Glorie，K。；范德克伦特，J。；Wagelmans，A.，《长链肾脏交易：一种有效的定价算法，用于通过分支和价格结算易货交易》，Manuf.Serv。操作。管理。，16, 4, 498-512 (2014) [24] 格林，J。；罗西，F。；Tasioulas，J。；维纳布尔，K.B。；Williams，B.C.，《在集体决策支持系统中嵌入道德原则》（AAAI（2016）），4147-4151 [25] 哈贾杰，C。；Dickerson，J.P。；Hassidim，A。；桑德霍姆，T。；Sarne，D.，使用信用机制进行经得起战略考验的高效肾脏交换，（AAAI（2015）），921-928 [26] 贾，Z。；唐·P。；王，R。；Zhang，H.，易货交易的高效近最优算法，（AAMAS（2017）），362-370 [27] Kleinberg，J。；Lakkaraju，H。；Leskovec，J。；路德维希，J。；Mullainathan，S.，《人类决策和机器预测》（2017年），国家经济研究局，工作文件23180 [28] 李，J。；刘，Y。；Huang，L.等人。；Tang，P.，平等主义两两肾脏交换：通过线性规划和参数流的快速算法，（AAMAS（2014）），445-452 [29] 罗，S。；唐·P。；吴，C。；Zeng，J.，具有周期长度约束的易货交易近似值（2016），CoRR [30] Manlove，D。；O'Malley，G.，《英国配对和利他肾脏捐赠：算法和实验》，ACM J.实验算法，19，1（2015） [31] 马泰，N。；Saffidine，A。；Walsh，T.，在线器官匹配机制，（IJCAI（2017）） [32] 蒙哥马利，R。；Gentry，S。；马克斯，W.H。；沃伦，D.S。；希勒，J。；霍普，J。；Zachary，A.A。；Melancon，J.K。；Maley，W.R。；拉布，H。；辛普金斯，C。；Segev，D.L.，Domino配对肾脏捐献：最佳利用活体非定向捐献的策略，《柳叶刀》，3689533419-421（2006） [33] Noothigattu，R。；Gaikwad，S.N.S。；阿瓦德，E。；苏扎，S。；拉旺，I。；拉维库马尔，P。；Procaccia，A.D.，《基于投票的道德决策系统》（AAAI（2018），AAAI出版社），1587-1594 [34] O'Neil，C.，《数学毁灭的武器：大数据如何增加不平等并威胁民主》（2017），百老汇图书·Zbl 1441.00001号 [35] 佩雷拉，L.M。；Saptawijaya，A.，《通过逻辑编程中的反事实实现代理道德》CogSci桥接研讨会。会议记录CogSci桥接研讨会，英国伦敦（2017），39-53 [36] 拉旺，I。；Simari，G.R.，《人工智能论证》，第47卷（2009年），施普林格出版社 [37] 里斯，M。；Kopke，J。；造粒机，R。；Segev，D。；Rutter，M。；法布雷加，A。；罗杰斯，J。；潘凯维茨，O。；希勒，J。；Roth，A。；桑德霍姆，T。；尤恩维尔，美国。；Montgomery，R.，《非刺激的、扩展的、利他的捐赠链》，N.Engl。《医学杂志》，360，11，1096-1101（2009） [38] Roth，A。；Sönmez，T。；美国尤恩维尔，美国经济新英格兰肾脏交换中心。修订版，95,2376-380（2005） [39] Roth，A。；Sönmez，T。；尤恩维尔，美国，成对肾脏交换，经济杂志。理论，125，2，151-188（2005）·Zbl 1081.92023号 [40] 罗斯，A.E。；Sonmez，T。；Unver，M.U.，肾脏交换，Q.J.经济学。，119, 2, 457-488 (2004) ·Zbl 1064.92029号 [41] 托尔钦斯基，P。；莫吉尔，S。；阿特金森，K。；McBurney，P。；美国科尔特斯，《安全关键行动推理的审议对话》，Auton。代理多代理系统。，25, 2, 209 (2012) [42] 托利斯，P。；Parkes，D.C.，《使用随机图设计和分析多医院肾脏交换机制》，《游戏经济》。行为。，91, 360-382 (2015) ·Zbl 1318.91148号 [43] 图灵，A.M.，《计算机械与智能，思维》，59，236，433-460（1950） [44] UNOS，修订肾配对捐赠试点项目优先点（2015年），OPTN/UNOS公共评论提案 [45] 瓦拉赫，W。；Allen，C.，《道德机器：教机器人正确与错误》（2008），牛津大学出版社 [46] 瓦拉赫，W。；Allen，C.，《道德机器：从错误中正确教学机器人》，83-98（2010），牛津大学出版社：牛津大学出版社，美国纽约州纽约市，（第6章） 此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。