谷歌DeepMind推出了一种新的水印工具，用于标记图像是否由人工智能生成。

该工具名为SynthID，最初只对谷歌人工智能图像生成器Imagen的用户可用，Imagen位于谷歌云的机器学习平台Vertex上。用户可以使用Imagen生成图像，然后选择是否添加水印。希望它可以帮助人们判断AI生成的内容何时被冒充为真实内容，或者帮助保护版权。 

在过去的一年里，生成性人工智能模型的巨大普及也带来了人工智能生成的深度伪造、非感官色情和版权侵犯的激增。水印-一种将信号隐藏在文本或图像中以识别其为人工智能生成的技术已经成为抑制此类危害的最流行的想法之一。 

7月，白宫宣布它获得了OpenAI、谷歌和Meta等领先AI公司的自愿承诺，开发水印工具，以打击AI生成内容的错误信息和滥用。 

在谷歌5月年度会议I/O首席执行官Sundar Pichai表示，该公司正在构建包括水印和其他技术从一开始谷歌DeepMind现在是第一家公开推出此类工具的大型科技公司。

传统上，通过在图像上添加可见覆盖层或在其元数据中添加信息，对图像进行水印。但谷歌DeepMind研究副总裁Pushmeet Kohli表示，这种方法“脆弱”，当图像被裁剪、调整大小或编辑时，水印可能会丢失。

SynthID是使用两个神经网络创建的。一个是取原始图像，生成另一个图像，它看起来几乎与原始图像相同，但有些像素经过了微妙的修改。这将创建人眼看不到的嵌入模式。第二个神经网络可以识别图案，并告诉用户它是否检测到了水印、怀疑图像有水印或发现图像没有水印。科尔里说，SynthID的设计方式意味着即使图像被截屏或编辑，也可以检测到水印，旋转或调整大小

芝加哥大学（University of Chicago）教授本·赵（Ben Zhao）表示，谷歌DeepMind并不是唯一一个致力于此类水印方法的人系统防止艺术家的图像被人工智能系统刮伤。类似技术已经存在t和are在中使用开源AI图像生成器稳定扩散。Meta还进行的研究关于水印，尽管它尚未推出任何公共水印工具。 

Kohli声称，谷歌DeepMind的水印比之前为图像创建水印的尝试更具抗篡改性，尽管还不能完全免疫。  

但赵对此表示怀疑。他说：“随着时间的推移，几乎没有或很少有水印被证明是可靠的。”。早期工作文本水印发现他们是容易破碎通常在几个月内。 

他补充道，坏演员在破坏水印方面有既得利益，例如，他声称深度伪造的内容是不存在的犯罪或事件的真实照片证据。 

赵说：“攻击者试图将深度假冒图像提升为真实图像，或将真实照片诋毁为虚假图像，将获得很多好处，并且不会停止裁剪、有损压缩或更改颜色。”。 

尽管如此，谷歌DeepMind的推出是一个很好的第一步，可以在该领域更好地分享关于哪些技术有效，哪些技术无效的信息，人工智能伙伴关系的人工智能和媒体完整性项目负责人克莱尔·雷博维茨说

她说：“这真的很复杂，这不应该让我们无所作为。”。 

Kohli告诉《麻省理工学院技术评论》，水印工具是“实验性的”，并表示公司希望了解人们如何使用它，了解它的优缺点，然后再将其推广到更广泛的领域。他拒绝透露谷歌DeepMind是否会让该工具更广泛地用于Imagen生成的图像以外的其他图像。他也没有说谷歌是否会在其AI图像生成系统中添加水印。

初创公司Hugging Face的人工智能研究员萨沙·卢奇奥尼（Sasha Luccioni）表示，这限制了它的实用性。她补充道，谷歌保留该工具所有权的决定意味着只有谷歌才能嵌入和检测这些水印。 

卢奇奥尼说：“如果你在图像生成系统中全面添加水印组件，那么受到深度伪造色情制品等危害的风险就会降低。”。