随着人工智能系统越来越多地融入人们的日常生活,理解人们的道德规范变得越来越重要。规范理解涉及两方面规定伦理(应该如何行动?)以及描述伦理学(人们相信什么?)。
十字形促进研究描述性机器伦理学或机器理解人们道德判断的能力。Scruples建立在道德状况的真实例子之上。同样,它为每个例子提供了许多注释,以捕捉社区中常见的道德判断的内在多样性。
十字形分为两部分:轶事和困境.这些轶事收集了超过625000条伦理判断,超过32000条现实生活中的轶事。每一个故事都讲述了一个复杂的道德状况,经常会造成道德困境,并伴随着社区成员做出的判断的分布。相比之下,“两难困境”呈现了一对对简单的行为,按照这些行为的排序,众工们的道德标准更低。
请参阅我们的AAAI 2021论文:Scruples:32000篇真实生活轶事的社区伦理判断语料库有关处理Scruples的数据集、基线和新方法工具的更多信息。