文件Open Access徽标

存在隐含偏差的选择问题

作者 乔恩·克莱因伯格, 曼尼什·拉加万



PDF格式
缩略图PDF

文件

LIPIcs公司。ITCS.2018.33.pdf
  • 文件大小:0.62 MB
  • 17页

文件标识符

作者详细信息

乔恩·克莱因伯格
曼尼什·拉加万

引用为获取BibTex

Jon Kleinberg和Manish Raghavan。存在隐性偏见的选择问题。第九届理论计算机科学创新大会(ITCS 2018)。莱布尼茨国际信息学论文集(LIPIcs),第94卷,第33:1-33:17页,达格斯图尔-莱布尼兹-泽特鲁姆信息学院(2018)
https://doi.org/10.4230/LIPIcs.ITCS.2018.33

摘要

在过去二十年中,隐性偏见的概念已经成为我们理解招聘、晋升和入学等活动中的偏见和歧视的重要组成部分。对隐性偏见的研究表明,当人们评估他人时——例如,在招聘环境中——他们对特定演示小组成员的无意识偏见可能会对他们的决策产生影响,即使他们无意歧视这些小组的成员。越来越多的实验工作证明了内隐偏见在产生不良结果方面的作用。在这里,我们提出了一个理论模型,用于研究内隐偏见对选择决策的影响,并分析了在该模型中对内隐偏见的可能程序补救方法。我们的模型所代表的典型情况是招聘环境,招聘人员试图评估求职者的未来潜力,但他们对潜力的估计因对某一群体成员的无意识偏见而发生偏差。在该模型中,我们表明,鲁尼规则(Rooney Rule)等措施不仅可以提高受影响群体的代表性,还可以为招聘组织带来更高的绝对回报。鲁尼规则要求至少选择一名代表性不足的群体成员。然而,确定这些措施能够带来改进的回报的条件,需要在偏差程度和申请人特征的潜在分布之间进行微妙的权衡,从而引发了关于存在概率侧信息的订单统计的新的理论问题。
关键词
  • 算法公平性
  • 幂律
  • 订单统计
  • 隐性偏见
  • 鲁尼规则

韵律学

参考文献

  1. 玛丽安·贝特朗和森迪希尔·穆莱纳坦。艾米丽和格雷格比拉基萨和贾马尔更适合就业吗?劳动力市场歧视的实地实验。《美国经济评论》,94(4):991-10132004。谷歌学者
  2. 艾丽斯·博内特(Iris Bohnet)、亚历山大·范·金(Alexandra van Geen)和马克斯·巴泽曼(Max Bazerman)。当绩效战胜性别偏见时:联合评估与单独评估。管理科学,62(5):1225-12342016。谷歌学者
  3. 马克·布拉弗曼和埃尔沙南·莫塞尔。从噪声信息中进行排序。arXiv预印本arXiv:091111909。谷歌学者
  4. 玛丽莲·卡维奇亚。如何对抗内隐偏见?多样性专家带着清醒的思考告诉NABE。美国律师协会:律师领袖,40(1),2015年。谷歌学者
  5. Aaron Clauset、Cosma R.Shalizi和Mark E.J.Newman。经验数据中的幂律分布。SIAM评论,51(4):661-7032009年。谷歌学者
  6. 布莱恩·柯林斯。解决雇佣实践中的无意识偏见:鲁尼规则的困境。《纽约大学法律评论》,82(3),2007年。谷歌学者
  7. 科文顿和伯林。对优步的建议,2017年6月13日。谷歌学者
  8. H.A.David和H.N.Nagaraja。《基本分布理论》,第9-32页。约翰·威利父子公司,2005年。谷歌学者
  9. 乌列尔·菲奇、普拉巴卡尔·拉格万、大卫·佩莱格和埃利·厄普法尔。使用噪声信息进行计算。SIAM计算机杂志,23(5):1001-10181994。谷歌学者
  10. Qiang Fu和Jingfeng Lu。多元化彩票比赛的微观基础:噪音绩效排名的视角。《社会选择与福利》,38(3):497-5172012年。谷歌学者
  11. 亚历山大·格林(Alexander R.Green)、丹娜·卡尼(Dana R.Carney)、丹尼尔·帕林(Daniel J.Pallin)、隆·恩戈(Long H.Ngo)、克里斯塔尔·雷蒙德(Kristal L.Raymond)、丽莎·伊佐尼(Lisa I.Iezzoni。医生的内隐偏见及其对黑人和白人患者溶栓决策的预测。《普通内科杂志》,22(9):1231-12382007。谷歌学者
  12. 安东尼·格林沃尔德(Anthony G.Greenwald)和马哈林·巴纳吉(Mahzarin R.Banaji)。内隐社会认知:态度、自尊和刻板印象。《心理学评论》,102(1):4-271995年。谷歌学者
  13. 安东尼·格林沃尔德(Anthony G.Greenwald)和琳达·汉密尔顿·克里格(Linda Hamilton Krieger)。内隐偏见:科学基础。《加利福尼亚州法律评论》,94:945-9672006。谷歌学者
  14. Christine Jolls和Cass R.Sunstein。隐性偏见定律。《加利福尼亚州法律评论》,94:969-9962006年。谷歌学者
  15. 曼努埃尔·洛佩兹和詹姆斯·马伦戈。订单统计数据之间预期差异的上限。数学杂志,84(5):365-3692011。谷歌学者
  16. 亨利克·约翰·马利克。pareto分布的顺序统计的精确矩。斯堪的纳维亚精算杂志,1966年(3-4):144-1571966。谷歌学者
  17. 克里斯蒂娜·帕萨里埃洛。科技公司借足球比赛来增加女性就业。《华尔街日报》,2016年9月27日。谷歌学者
  18. 哈姆扎·沙班。优步刚刚采用的“鲁尼规则”是什么?《华盛顿邮报》,2017年6月13日。谷歌学者
  19. 弗朗西斯科·贾科莫·特里科米和亚瑟·埃尔德莱伊。伽马函数比值的渐近展开。太平洋数学杂志,1(1):133-1421951。谷歌学者
  20. 埃里克·路易斯·乌尔曼和杰弗里·科恩。构建标准:重新定义优点以证明歧视是正当的。心理科学,16(6):474-4802005。谷歌学者
  21. 琳达·范登·伯格(Linda van den Bergh)、埃迪·丹森(Eddie Denessen)、莉塞特·霍恩斯塔(Lisette Hornstra)、马林努斯·沃顿(Marinus Voeten)和罗伯·霍兰德(Rob W.Holland)。教师的内隐偏见态度:与教师期望和种族成就差距的关系。《美国教育研究杂志》,47(2):497-5272010。谷歌学者
  22. 克里斯汀·温内拉斯和阿格尼斯·沃尔德。同行评议中的裙带关系和性别歧视。《自然》,387:341-3431997年。谷歌学者
问题/备注/反馈
X(X)

Dagstuhl出版社反馈


感谢您的反馈!

已提交反馈

无法发送消息

请稍后再试或发送电子邮件