扩展摘要

不断发展的人-人工作流（TREW）中的信任和依赖

作者:

扎赫拉阿什克托拉布,

加根班萨尔,

扎纳布干卡,

肯尼思荷尔斯坦,

杰西卡赫尔曼,

艾莉森·玛丽史密斯-伦纳,

铜霜吴、和

文娟张作者信息和声明

CHI EA’24：CHI计算机系统人为因素会议的扩展摘要

2024年5月

文章编号：496，页数1-6

https://doi.org/10.1145/3613905.3636319

出版:2024年5月11日出版历史

获取访问权限

摘要

最先进的人工智能，包括像GPT-4这样的大型语言模型（LLM），现在拥有人类曾经独有的功能，例如编码、想法生成和规划。高级人工智能现在集成到了大量平台和工具中，包括GitHub Copilot、Bing Chat、Bard、ChatGPT和Advanced Data Analytics。与通常提供单一解决方案的传统专业人工智能不同，这些LLM重新定义了人类人工智能动态，越来越多的人将其视为合作伙伴。这种转变导致人类与人工智能之间的对话、谈判和任务授权得到加强。随着这些快速发展，人工智能协作范围中人类角色的性质正在演变。虽然我们之前的CHI TRAIT 2022和2023研讨会深入探讨了传统人工智能的信任和依赖，但现在的紧迫问题是：我们应该如何衡量这些新兴人工智能技术的信任和信赖？随着这些系统的广泛采用，还需要评估它们对人类技能发展的影响。人工智能援助是促进人类技能进步，还是无意中抑制了它？考虑到围绕人类与人工智能互动的多方面挑战和解决方案，我们邀请了来自不同领域的专家，包括人工智能、人工智能、机器学习、心理学和社会科学。我们的目标是弥合沟通差距，促进跨这些领域的丰富合作。

工具书类

[1]

Gagan Bansal、Besmira Nushi、Ece Kamar、Eric Horvitz和Daniel S Weld。2021.最准确的人工智能是最好的队友吗？为团队合作优化人工智能。《AAAI人工智能会议论文集》，第35卷。11405–11414.

[2]

塞巴斯蒂安·布贝克（Sébastien Bubeck）、瓦伦·钱德拉塞卡兰（Varun Chandrasekaran）、罗恩·埃尔丹（Ronen Eldan）、约翰内斯·盖尔克（Johannes Gehrke）、埃里克·霍维茨（Eric Horvitz）、埃克·卡马尔（Ece Kamar）、彼得·李（Peter Lee）、尹达·李（Yin Tat Lee），李元志（Yuanzhi Li）。2023.人工通用智能的火花：GPT-4的早期实验。arxiv:2303.12712[cs.CL]

[3]

Zana Buçinca、Maja Barbara Malaya和Krzysztof Z Gajos。2021.信任或思考：认知强迫功能可以减少AI辅助决策中对AI的过度依赖。美国计算机学会人机交互会议论文集5，CSCW1（2021），1-21。

数字图书馆

[4]

Erin K Chiou和John D Lee。2021.信任自动化：为响应能力和弹性而设计。人为因素（2021），00187208211009995。

[5]

泰娜·埃卢杜（Tyna Eloundou）、萨姆·曼宁（Sam Manning）、帕梅拉·米什金（Pamela Mishkin）和丹尼尔·洛克（Daniel Rock）。2023.Gpts是Gpts：早期研究大型语言模型对劳动力市场的影响潜力。arXiv预印arXiv:2303.10130（2023）。

[6]

Krzysztof Z Gajos和Lena Mamykina。2022.人们是否会认知人工智能？人工智能辅助对附带学习的影响。在第27届智能用户界面国际会议上。794–806.

数字图书馆

[7]

Deep Ganguli、Danny Hernandez、Liane Lovitt、Amanda Askell、Yuntao Bai、Anna Chen、Tom Conerly、Nova Dassarma、Dawn Drain、Nelson Elhage，2022年。大型生成模型中的可预测性和惊喜。在2022年ACM公平、问责制和透明度会议记录中。1747–1764.

数字图书馆

[8]

法布里奇奥·吉拉迪（Fabrizio Gilardi）、梅萨姆·阿里扎德（Meysam Alizadeh）和马埃尔·库布里（Maöl Kubli）。2023.在文本通知任务方面，Chatgpt的表现优于众筹工作者。arXiv预印arXiv:2303.15056（2023）。

[9]

艾拉·格里克森和安妮塔·威廉斯·伍利。2020年。人工智能中的人类信任：实证研究回顾。管理学会年鉴14，2（2020），627–660。

[10]

Patrick Hemmer、Sebastian Schellhammer、Michael Vössing、Johannes Jakubik和Gerhard Satzger。2022.组建有效的人机团队：构建机器学习模型，补充多个专家的能力。arXiv预印arXiv:2206.07948（2022）。

[11]

Patrick Hemmer、Monika Westphal、Max Schemmer、Sebastian Vetter、Michael Vössing和Gerhard Satzger。2023.人与人之间的协作：人工智能授权对人的任务绩效和任务满意度的影响。第28届智能用户界面国际会议论文集。453–463.

数字图书馆

[12]

Dan Hendrycks、Nicholas Carlini、John Schulman和Jacob Steinhardt。2021.ml安全问题尚未解决。arXiv预打印arXiv:2109.13916（2021）。

[13]

Lea Krause和Piek Vossen。2020年。何时解释：确定人机交互中的解释触发点。在可解释人工智能交互式自然语言技术第二次研讨会上。55–60.

[14]

约翰·D·李和卡特里娜·A·西。2004年。对自动化的信任：为适当的依赖而设计。人为因素46，1（2004），50-80。

[15]

Ariel Levy、Monica Agrawal、Arvind Satyanarayan和David Sontag。2021.评估自动化建议对决策的影响：领域专家调解模型错误，但采取较少主动。2021年CHI计算机系统人为因素会议记录。1–13.

数字图书馆

[16]

卢卓然和尹明。2021.绩效反馈有限时人类对机器学习模型的依赖：启发与风险。2021年CHI计算机系统人为因素会议记录。1–16.

数字图书馆

[17]

马钱欧（Qianou Ma）、吴同双（Tongshuang Wu）和肯尼思·科丁格（Kenneth R Koedinger）。2023.人工智能是更好的编程合作伙伴吗。人-人对编程与人-人工智能编程。CoRR，abs/2306.05153（2023）。

[18]

侯赛因·莫扎纳、加根·班萨尔、亚当·福尼和埃里克·霍维茨。2022.字里行间的解读：在人工智能辅助编程中建模用户行为和成本。arXiv预打印arXiv:2210.14306（2022）。

[19]

Namkee Oh、Gyu-Seong Choi和Woo Yong Lee。2023.ChatGPT走进手术室：评估GPT-4的表现及其在大型语言模型时代外科教育和培训中的潜力。《外科治疗与研究年鉴》104，5（2023），269。

[20]

开放人工智能。2023.GPT-4技术报告。arxiv:2303.08774[cs.CL]

[21]

龙欧阳、吴杰夫、徐江、迪奥戈·阿尔梅达、卡罗尔·L。温赖特、帕梅拉·米什金、张冲、桑迪尼·阿加瓦尔、卡塔琳娜·斯拉玛、亚历克斯·雷、约翰·舒尔曼、雅各布·希尔顿、弗雷泽·凯尔顿、卢克·米勒、麦迪·西蒙斯、阿曼达·阿斯克尔、彼得·威林德、保罗·克里斯蒂亚诺、扬·雷克和瑞安·洛。2022.训练语言模型，以遵循指示并提供人类反馈。arxiv:2203.02155[cs.CL]

[22]

凡妮莎·索尔、亚历山大·默滕斯、延斯·海特兰和维伦娜·尼奇。2021.为信任和健康而设计：识别高度自动化车辆的设计特征。在2021年CHI计算机系统人为因素会议的扩展摘要中。1–7.

[23]

莱斯利·加菲尔德·坦泽。2023.人工智能时代的诽谤。SSRN 4545070（2023）提供。

[24]

米歇尔·沃梅林格（Michel Wermelinger）。2023.使用GitHub Copilot解决简单的编程问题。第54届ACM计算机科学教育技术研讨会论文集。172–178.

数字图书馆

[25]

David Gray Widder、Laura Dabbish、James D Herbsleb、Alexandra Holloway和Scott Davidoff。2021.在高风险软件工程工作中信任协作自动化：NASA的案例研究。2021年CHI计算机系统人为因素会议记录。1–13.

数字图书馆

[26]

凯尔·威格斯。2022年。GitHubs人工智能编程助手Copilot现已普遍可用。TechCrunch（2022）。

索引术语

不断发展的人-人工作流（TREW）中的信任和依赖
1. 计算方法
  1. 机器学习
2. 以人为中心的计算
  1. 人机交互（HCI）
    1. HCI实证研究
    2. 交互式系统和工具

建议

人工智能团队中的信任与信赖研讨会（TRAIT）
CHI EA’22：2022年CHI计算机系统人为因素会议的扩展摘要

随着人类在决策、创意练习和其他任务中越来越多地与人工智能系统交互（甚至合作），适当的信任和依赖对于确保这些系统的正确使用和采用是必要的。具体来说，人们。。。
阅读更多信息
人工智能团队中的信任与信赖研讨会（TRAIT）
CHI EA’23：2023年CHI计算机系统人为因素会议的扩展摘要

随着人类在决策、创意练习和其他任务中越来越多地与人工智能系统交互（甚至合作），适当的信任和依赖对于确保这些系统的正确使用和采用是必要的。具体来说，人们。。。
阅读更多信息
信任人工智能与信任人类队友：队友身份和表现对人与人之间合作的影响
摘要
人工智能（AI）的最新进展使研究人员能够创建更强大的AI代理，成为人类的合格队友。然而，人类对人工智能的不信任是可能阻碍人类人工智能发展的关键因素。。。
集锦
- 当人们被AI作为另一个人的身份所欺骗时，他们很少接受AI队友的决定。
阅读更多信息

评论

信息和贡献者

问询处

发布于

封面图片ACM会议

CHI EA’24：2024年CHI计算机系统人为因素会议的扩展摘要

2024年5月

4761页

国际标准图书编号：9798400703317

DOI（操作界面）：10.1145/3613905

编辑：
弗洛里安·弗洛伊德·米勒
莫纳什大学
,
佩尼·基伯兹
澳大利亚国立大学
,
朱莉·威廉姆森
格拉斯哥大学
,
科里纳
兰卡斯特大学

版权所有©2024所有者/作者。

允许制作本作品的部分或全部数字或硬拷贝供个人或课堂使用，但不收取任何费用，前提是复制品的制作或分发不是为了盈利或商业利益，并且复制品在首页注明本通知和完整引文。必须尊重本作品第三方组件的版权。对于所有其他用途，请联系所有者/作者。

赞助商

出版商

计算机协会

美国纽约州纽约市

出版历史

出版：2024年5月11日

检查更新

作者标记

限定符

扩展摘要
研究
推荐有限公司

会议

24岁

赞助商：

CHI'24:CHI计算机系统人为因素会议

2024年5月11日至16日

你好，美国檀香山

接受率

23696份提交文件的总体接受率为6164，26%

即将召开的会议

24岁CHI PLAY

赞助商：
西奇

游戏中的计算机与人类交互年度研讨会

2024年10月14日至17日

坦佩雷，芬兰

贡献者

其他指标

查看文章指标

文献计量学和引文

文献计量学

文章指标

0
引文总数
243
总下载次数

下载次数（过去12个月）243
下载次数（最近6周）243

其他指标

查看作者指标

引文

视图选项

获取访问权限

登录选项

检查您是否可以通过登录凭据或您的机构访问本文。

完全访问权限

获取此出版物

查看选项

PDF格式

以PDF文件查看或下载。

电子阅读器

使用联机查看电子阅读器.

电子阅读器

全文

以全文形式查看本文。

HTML格式格式

在中查看本文HTML格式格式。

媒体

数字

其他

桌子

查看全文|下载PDF