问责制的机器学习技术

作者

  • Been Kim（金） 谷歌大脑
  • 最终Doshi-Velez 哈佛大学

摘要

人工智能系统为我们提供了许多日常便利。我们可以通过文本和语音轻松搜索数百万网页上的信息。文书处理越来越自动化。人工智能系统标记潜在的欺诈信用卡交易并过滤我们的电子邮件。然而，这些人工智能系统也经历了重大失败。在一系列申请中，包括贷款批准、疾病严重程度评分、雇佣算法和面部识别，基于人工智能的评分系统显示出性别和种族偏见。自动驾驶汽车发生了严重事故。随着这些制度变得越来越普遍，我们确定使其承担责任的最佳方法变得越来越重要。

描绘社会混乱和AI的图像

下载

出版

2021-04-12

如何引用

Kim，B.和Doshi-Velez，F.（2021）。问责制的机器学习技术。人工智能杂志,42(1), 47-52. 检索自https://ojs.aaai.org/aimagazine/index.php/aimagajine/article/view/7481

问题

第42卷第1期：2021年春季

章节

专题文章

许可证

这是一篇根据知识共享署名许可证条款开放存取的文章，该许可证允许在任何媒体上使用、分发和复制原始作品，前提是正确引用了原始作品。
 
与本期刊一起发表的作者同意以下条款：
  1. 作者保证，他们是上述文章/论文的唯一作者和版权所有者，但引文中显示的部分除外；文章/论文始终是原创的；并且下述签字人有权进行上述授权，且无任何负担。
  2. 作者同意，如果任何人提出任何索赔或诉讼，声称事实属实，即构成对上述任何保证的违反，作者将保护AAAI、其受让人、其被许可人及其分销商免受任何责任，无论是根据判决、法令还是妥协，以及因该索赔或诉讼而产生的任何法律费用和开支，签字人将全力配合AAAI可能对该索赔或起诉进行的任何辩护。此外，签字人同意在寻求保护或执行签字人在文章/文件中授予AAAI的任何权利的任何索赔或其他诉讼中给予合作。如果任何此类索赔或诉讼因构成违反上述任何保证的事实而失败，则签字人同意赔偿任何提起此类索赔或起诉的人由此产生的费用和律师费。
  3. 作者保留版权以外的所有专有权利（如专利权）。
  4. 作者可以在自己的其他作品中重复使用上述文章/论文的全部或部分。
  5. 作者可以复制或已经复制其文章/论文供作者个人使用或公司使用，前提是原创作品是引用的财产，并且副本的使用方式不暗示AAAI认可雇主的产品或服务，并且副本本身不出售。上述权利不允许以电子或数字形式在任何计算机网络上发布文章/论文，除非作者或作者的雇主，然后仅在作者或雇主自己的网页或ftp网站上发布。除本款上述要求外，此类网页或ftp网站还必须提供电子参考或链接至AAAI电子服务器，不得发布非作者或雇主创作的其他AAAI版权材料（包括与其他论文链接的目录）没有AAAI的书面许可。
  6. 作者可以在发表之前对其文章/论文的全部或部分进行有限的分发。
  7. 就根据美国政府合同执行的工作而言，AAAI授予美国政府免版税许可，以复制上述文章/文件的全部或部分，并授权其他人出于美国政府目的复制。
  8. 如果上述文章/论文未被AAAI接受和出版，或作者在AAAI接收之前撤回，则本协议无效。