计算机科学>人机交互
标题: 远见:在人工智能应用程序原型化过程中培养负责任的人工智能意识
摘要: 基于提示的大型语言模型(LLM)接口使原型制作和构建AI驱动的应用程序比以往任何时候都更容易。 然而,识别人工智能应用程序可能产生的潜在危害仍然是一个挑战,尤其是在基于即时原型的过程中。 为了解决这个问题,我们推出了Farsight,这是一种新颖的原位交互工具,可以帮助人们识别他们正在原型化的AI应用程序的潜在危害。 根据用户的提示,Farsight突出显示有关相关AI事件的新闻文章,并允许用户探索和编辑LLM生成的用例、利益相关者和危害。 我们报告了10个AI原型共同设计研究的设计见解,以及42个AI样机用户研究的结果。 在使用Farsight之后,我们用户研究中的AI原型能够更好地独立识别提示相关的潜在危害,并发现我们的工具比现有资源更有用。 他们的定性反馈也强调了Farsight鼓励他们关注最终用户,并超越直接伤害。 我们讨论了这些发现,并反思了它们对设计有意义地参与人工智能危害的人工智能原型体验的影响。 Farsight可在以下网址公开访问: 此https URL .