跳到内容
人工智能

为什么Big Tech的水印计划是一些受欢迎的好消息

Big Tech正在大力支持一项标准,该标准可以为图像、视频和音频添加“营养标签”。

一名测量员检查了一幅带有像素图案和嵌入在中心的信息图标的风景画
Stephanie Arnett/MITTR |图像特效,Envato

这个故事最初出现在我们关于人工智能的每周时事通讯《算法》中。要想在你的收件箱中首先看到这样的故事,在这里注册.

本周,我很高兴为大家带来来自人工智能世界的一些令人鼓舞的消息泰勒·斯威夫特深度伪造色情丑闻以及政治深度造假的扩散,例如拜登总统的人工智能机器人科技公司要求选民待在家里,并采取措施更好地检测人工智能生成的内容。 

2月6日,Meta表示标记AI生成的图像在Facebook、Instagram和Threads上。当有人使用Meta的AI工具创建图像时,该公司会在图像中添加可见标记,以及图像文件中的不可见水印和元数据。该公司表示,其标准符合人工智能伙伴关系,一家人工智能研究非营利组织。

Big Tech也在大力支持一项前景看好的技术标准,该标准可以为图像、视频和音频添加“营养标签”。已调用C2PA,这是一个开源互联网协议这依赖于密码学来编码有关内容来源的细节,或者技术人员所说的“来源”信息。C2PA的开发人员经常将该协议与营养标签进行比较,但标签上注明了内容的来源以及由谁或什么人创造的在此处阅读更多信息

2月8日,谷歌宣布它正与微软和Adobe等其他科技巨头一起加入C2PA的指导委员会,并将加入其水印合成ID在其所有AI生成的图像中新双子座工具Meta表示,它也在参与C2PA。拥有一个行业范围的标准使公司更容易检测AI生成的内容,无论它是用哪个系统创建的。

OpenAI也宣布了上周新的内容来源测量。该公司表示,将在ChatGPT和DALL-E 3(其图像制作人工智能)生成的图像的元数据中添加水印。OpenAI表示,现在将在图像中包含一个可见标签,以表明这些图像是用人工智能创建的

这些方法是一个有希望的开始,但它们不是万无一失的。 元数据中的水印很容易通过截取图像的屏幕快照并使用它来规避,而可视标签可以被裁剪或编辑掉。对于像谷歌的SynthID这样的隐形水印,人们可能更有希望,它可以微妙地改变图像的像素,这样计算机程序就可以检测到水印,而人眼却无法检测到。这些很难篡改。此外,还没有可靠的方法来标记和检测人工智能生成的视频、音频甚至文本。 

但创建这些起源工具仍然有价值。正如生育力AI专家亨利·艾德(Henry Ajder)几周前告诉我的那样我采访了他关于如何防止深度假冒色情,重点是创造一个“反常的客户旅程”。换句话说,为deepfake管道增加障碍和摩擦,以尽可能减缓有害内容的创建和共享。一个意志坚定的人可能仍然能够超越这些保护,但每一点点都会有所帮助。 

科技公司也可以推出许多非技术性的修复措施,以防止出现深度假冒色情等问题。主要云服务提供商和应用程序商店,如谷歌、亚马逊、微软和苹果,可能会采取行动,禁止可用于创建非性感深度假裸体的服务。而且,所有AI生成的内容都应该包含水印,即使是开发该技术的小型初创公司也是如此。

给我带来希望的是,除了这些自愿措施之外,我们开始看到有约束力的法规,例如欧盟AI法案数字服务法案这要求科技公司披露人工智能生成的内容,并更快地删除有害内容。美国立法者也再次对通过一些对深水假货具有约束力的规则感兴趣。在拜登总统告诉选民不要投票的AI机器人电话之后,美国联邦通信委员会(US Federal Communications Commission)宣布上周,它禁止在这些通话中使用人工智能。 

总的来说,我对自愿准则和规则持怀疑态度,因为没有真正的问责机制,公司可以随时选择更改这些规则。科技行业在监管方面有着非常糟糕的记录。在竞争激烈、增长驱动的技术世界中,像负责任的人工智能这样的东西往往是最先面临削减的。 

尽管如此,这些声明还是非常受欢迎的。他们也比现状要好得多,现状几乎为零。 

更深入的学习

谷歌的双子座现在无所不在。以下是您可以尝试的方法。

在迄今为止规模最大的大规模AI发布中,谷歌正在几乎所有产品上推出其大型语言模型家族Gemini,从Android到iOS谷歌应用程序,再到Gmail到Docs等等。现在,您可以第一次接触到双子座Ultra,这是该模型最强大的版本。 

吟游诗人死了;双子座万岁:谷歌也在淘汰其ChatGPT竞争对手巴德(Bard)。自去年12月以来,巴德一直使用双子座的一个版本,现在也将被称为双子座。通过将双子座打造成无处不在的工具,谷歌希望弥补失地,甚至超越其竞争对手OpenAI。 阅读Will Douglas Heaven的更多信息

比特与字节

聊天机器人帮助更多人获得心理健康服务
一项新的研究发现,来自一家名为Limbic的初创公司的AI聊天机器人帮助增加了通过英国国家卫生服务局(National health Service)接受心理健康服务的患者数量(尤其是在代表人数不足的群体中,他们不太可能寻求帮助)。(麻省理工学院技术评论

这个机器人不用任何帮助就能打扫房间
一个名为OK-Robot的新系统可以训练机器人在以前从未遇到过的环境中拾取和移动物体。这是一种可能能够填补快速改进的人工智能模型与实际机器人能力之间差距的方法,因为它不需要任何额外的昂贵复杂训练。(麻省理工学院技术评论

了解OpenAI让AI更加“民主”的计划
这一功能着眼于OpenAI的计算机科学家如何试图解决如何使其AI与人类价值观相一致的技术问题。但一个更大的问题仍未得到解答:人工智能究竟应该反映谁的价值观?谁应该做出决定? 
(时间

OpenAI的Sam Altman希望为AI构建数以万亿计的芯片
这位首席执行官经常抱怨公司没有足够的计算能力来训练和运行其强大的人工智能模型。据报道,奥特曼正在与阿拉伯联合酋长国政府的投资者谈判,以筹集高达7万亿美元的资金,提高全球芯片制造能力。(《华尔街日报》)

一款“高贵”女性的新应用
啊。与将女性图像性爱化的应用程序相比,一些4Chan用户正在使用生成性人工智能添加衣服,删除纹身和穿孔,使其看起来更谦逊。怎么样……我们就不理女人了。(404媒体

深度潜水

人工智能

萨姆·奥尔特曼表示,乐于助人的特工将成为AI的杀手

Open AI的首席执行官表示,我们不需要新的硬件或更多的培训数据。

生成性视频的下一步是什么

OpenAI的Sora提高了AI电影制作的门槛。当我们思考即将发生的事情时,有四件事需要记住。

机器人即将拥有自己的ChatGPT时刻吗?

研究人员正在使用生成性人工智能和其他技术来教授机器人新技能,包括他们可以在家中执行的任务。

一家AI初创公司对我做了一个超现实的深度伪装,真是太好了,太可怕了

Synthesia的新技术令人印象深刻,但也提出了一个重大问题,即我们越来越无法分辨什么是真实的世界。

保持联系

Rose Wong插图

从获取最新更新
麻省理工学院技术评论

发现特别优惠、热门故事、,即将举行的活动等。

感谢您提交电子邮件!

浏览更多新闻稿

看起来好像出了问题。

我们无法保存您的首选项。尝试刷新此页面并更新一个更多的时间。如果您继续收到此消息,联系我们customer-service@technologyreview.com带有您想要接收的通讯列表。