杰弗里·沃肖,加州大学圣克鲁斯分校;尼娜·塔夫特和艾莉森·伍德拉夫,谷歌公司。
分析系统越来越多地允许公司对用户的特征进行推断,但由于这些系统复杂且往往缺乏直观性,用户可能无法完全理解这些系统。在本文中,我们调查了推理能力:人们对公司如何收集数据并从数据中进行推断的信念和误解。我们采访了21名受过高中教育的非学生参与者,发现很少有人相信公司能够做出公司现在通常通过机器学习做出的那种深刻的个人推断。相反,大多数参与者的推理素养信念集中在两个主要概念之一:一类认为公司主要根据先验刻板印象,使用直接收集的人口数据对人进行推断;另一组人认为,公司根据在线行为数据的计算机处理进行推断,但通常认为这些推断仅限于直观的直觉。我们还发现,与收入和种族相关的文化模型会影响用户对自己在数据经济中的角色所做的假设。我们分享了对技术悟性、数字不平等和潜在推理能力干预的研究、设计和政策的启示。
USENIX致力于开放访问我们活动上展示的研究。活动开始后,所有人都可以免费获得论文和会议记录。活动结束后发布的任何视频、音频和/或幻灯片也免费向所有人开放。支持USENIX以及我们对开放存取的承诺。