独立报告

CDEI委托的报告呼吁采取措施解决警方使用数据分析时的偏见

皇家联合服务研究所（RUSI）发布了CDEI委托的研究报告，内容涉及警务中算法的使用以及潜在的偏见。

• 发件人：: 数据伦理与创新中心
• 出版: 2019年9月16日

文件

RUSI报告——警务中的数据分析和算法偏差

PDF格式,1.16 MB,19页

此文件可能不适合使用辅助技术的用户。

请求可访问的格式。

如果您使用辅助技术（如屏幕阅读器）并需要更易访问的格式的本文档版本，请发送电子邮件至enquiries@dcms.gov.uk。请告诉我们您需要什么格式。如果你说出你使用的辅助技术，这将对我们有所帮助。

细节

RUSI的研究涉及对英国警察本身的采访，他们描述说，英国各部队的技术复杂程度各不相同。证据表明，自动化和算法的使用缺乏一致的指导方针，这可能导致警察工作中的歧视。

这项研究是CDEI对算法偏见进行全面审查的重要组成部分。我们正在起草指导意见草案，以帮助解决警务预测分析中可能存在的偏见，并将于2020年3月向政府提出正式建议。阅读更多信息关于2019/20年工作计划。

调查结果是什么？

1. 可能会发生多种类型的潜在偏差。其中包括基于受保护特征的歧视；决策过程中真实或明显的偏差；以及对特定群体中的个人系统性地不公平的结果和过程。
2. 算法公平不仅仅是关于数据的。相反，为了实现公平，需要仔细考虑更广泛的运营、组织和法律背景，以及分析所告知的总体决策过程。
3. 缺乏指导。对于警方使用数据分析的审查、监管和执法，仍然缺乏组织指南或明确的流程。

这些发现是如何确定的？

RUSI与英格兰和威尔士的一系列警察部队、民间社会组织、学者和法律专家进行了一系列深入访谈和圆桌会议。

这项研究的意义是什么？

RUSI强调了以下重要影响：

1. 资源分配。警察部队需要考虑算法偏差会如何影响他们对某些地区进行更严格监管的决定。
2. 法律索赔。与其他不同年龄或性别的人相比，得分“负面”的个人可能会提出歧视主张。
3. 对自动化的过度依赖。警察有可能过度依赖分析工具的使用，损害他们的自由裁量权，并导致他们忽视其他相关因素。

2019年9月16日出版