本报告的主要重点是了解如何评估公平的在一系列特定应用中使用算法。该报告从哲学、法律和技术角度概述了公平的概念，以得出适用于多个领域算法决策环境的见解，包括汽车保险、招聘和刑事司法。

算法公平

社交应用框架

奥森德·A·奥索巴,本杰明·布德雷奥,杰西卡·桑德斯,J.卢克·欧文,Pam A.米勒,萨曼莎·切尼

研究2019年7月11日出版

社会机构——如市场、社交媒体平台、刑事司法系统和就业流程——越来越多地利用算法进行决策。本报告研究了机构使用算法决策工具的潜在病态。本报告的主要重点是了解如何评估公平的在一系列特定应用中使用算法。该报告概述了来自哲学、法律和技术传统的公平概念，以得出适用于算法决策环境的见解。研究人员开发了一个用于检查算法决策的框架，并通过三个领域探索（汽车保险、招聘和刑事司法）进行工作。此外，这项工作还深入研究了北卡罗来纳州刑事司法系统的一部分的算法审计。工作以算法治理的实际机制的总体见解和建议结束。报告的主题很重要，因为未解决的公平挑战可能会破坏社会机构的稳定和合法性，并对受影响的人造成严重不利影响。

主要发现

公平，或称公平，是一个复杂且非常特定于领域的概念

  • 公平是一个有争议的概念，它需要特定领域的审查。
  • 考虑到高级算法和大型辅助数据集，禁止使用敏感属性的效果较差。
  • 地面实况准确性标准可能不充分。
  • 算法透明性很重要，但它不是万能药。
  • 实施实践很重要。无论算法本身的公平性如何，实现和制度因素都可以提高或降低公平性。
  • 有一些有用的技术和监管干预措施可以解决或减少算法决策中的公平挑战。

建议

  • 利益相关者应清楚了解特定领域的公平概念。
  • Rely公司较少的关于确保公平的敏感属性指定。
  • 在判断决策模型时，基本事实准确性可能并不总是一个中立的成功条件。
  • 诚信的信号——打开“黑匣子”——必须适合机构背景和相关利益相关者。
  • 部署算法的机构应制定程序，以监控或评估对算法决策工件的响应，而不仅仅是这些工件的性能。
  • 算法的设计者和部署者可以从采用算法公平检查表方法来最小化不期望的公平结果中获益。

订购打印副本

格式
回纸
页面计数
100页
标价
$23.00
购买链接
添加到购物车

话题

文档详细信息

  • 版权：兰德公司
  • 可利用性：可用
  • 年份：2019
  • 打印格式：回纸
  • 平装页：100
  • 平装本价格：$23.00
  • 平装版ISBN/EAN：978-1-9774-0313-1
  • 内政部： https://doi.org/10.7249/RR2708
  • 文件编号：RR-2708-RC（钢筋混凝土）

引用

兰德风格手册
Osoba、Osonde A.、Benjamin Boudreaux、Jessica Saunders、J.Luke Irwin、Pam A.Mueller和Samantha Cherney，算法公平：社会应用框架，兰德公司，RR-2708-RC，2019年。截至2024年9月21日：https://www.rand.org/pubs/research_reports/RR2708.html
芝加哥格式手册
Osoba、Osonde A.、Benjamin Boudreaux、Jessica Saunders、J.Luke Irwin、Pam A.Mueller和Samantha Cherney，《算法公平：社会应用框架》。加利福尼亚州圣莫尼卡：兰德公司，2019年。https://www.rand.org/pubs/research_reports/RR2708.html。也可以打印形式提供。
BibTeX公司 RIS公司

研究负责人

该项目是兰德公司的一项风险投资。资金来源于兰德支持者的捐赠和运营收入。该研究由社区健康和环境政策计划在内部兰德公司的社会和经济福利.

本出版物是兰德研究报告系列的一部分。研究报告提出了研究结果和客观分析，以应对公共和私营部门面临的挑战。兰德公司的所有研究报告都经过严格的同行审查，以确保研究质量和客观性的高标准。

本文件及其所含商标受法律保护。兰德公司知识产权的这种表述仅用于非商业用途。禁止未经授权在网上发布本出版物；鼓励直接链接到此产品页面。出于商业目的，复制或以其他形式重新使用任何研究文件需要获得兰德公司的许可。有关重印和重用权限的信息，请访问www.rand.org/pubs/permissions网站.

兰德是一家非营利机构，通过研究和分析帮助改进政策和决策。兰德公司的出版物并不一定反映其研究客户和赞助商的意见。