跳到内容
人工智能

谷歌在一切方面都投入了生成性人工智能

但专家表示,在修复缺陷之前将这些模型发布到野外,可能对公司来说风险极大。

一个测距仪式的盒子寻找两只狗的脸
谷歌

谷歌在今天的年度I/O会议上宣布,谷歌正在将强大的新AI工具塞入其现有产品中,并推出了一系列新工具,包括一名编码助理。 

数十亿用户将很快看到谷歌最新的人工智能语言模式PaLM 2集成到地图、文档、Gmail、Sheets和公司的聊天机器人Bard等25多种产品中。例如,人们只需在谷歌文档中出现的文本框中键入“写工作描述”之类的请求,人工智能语言模型就会生成用户可以自定义的文本模板。 

因为安全和声誉风险谷歌推出AI产品的速度比竞争对手慢。但是激烈的竞争华盛顿大学(University of Washington)计算机科学教授希拉格·沙阿(Chirag Shah)表示,来自竞争对手微软、OpenAI和其他公司的信息让它别无选择,只能开始。

这是一种高风险的策略,因为人工智能语言模型有许多缺陷,而且没有已知的修复方法。专家警告称,将其嵌入其产品可能适得其反,并与日益强硬的监管机构发生冲突。

谷歌还开放了对其ChatGPT竞争对手的访问,吟游诗人从美国和英国的精选团队到180多个国家的公众。谷歌表示,Bard将“很快”允许人们使用图像和文字进行提示,聊天机器人将能够用图片回复查询。谷歌还推出了人工智能工具,让人们可以生成和调试代码。

谷歌多年来一直在文本翻译和语音识别等产品中使用人工智能技术。但这是该公司迄今为止将最新一波人工智能技术集成到各种产品中的最大努力。 

谷歌DeepMind副总裁Zoubin Ghahramani在接受《麻省理工技术评论》采访时表示:“(人工智能语言模型)的能力越来越好。我们正在寻找越来越多的地方将它们集成到我们现有的产品中,我们也在寻找真正的机会,以大胆但负责任的方式为人们提供价值。”。 

他说:“对于谷歌来说,这一刻真的是我们看到了人工智能在人们手中的力量。”。

加赫拉马尼说,希望人们能够如此习惯这些工具,从而成为日常生活中不起眼的一部分。  

一站式商店

谷歌宣布这一消息之际,微软、OpenAI、Meta等竞争对手以及Stability等开源组织也纷纷加入。人工智能竞相推出令人印象深刻的人工智能工具,这些工具可以总结文本,流利地回答人们的查询,甚至可以通过文字提示生成图像和视频。 

Shah说,通过这套更新的AI产品和功能,谷歌不仅瞄准个人,还瞄准那些可能愿意为访问模型、编码帮助和企业软件付费的初创公司、开发人员和公司。

他说:“对于谷歌来说,成为一站式服务非常重要。”。 

谷歌正在推出新的功能和模型,利用其人工智能语言技术作为编码助手,允许人们生成和完成代码,并与聊天机器人对话,以获得调试和代码相关问题的帮助。 

问题是,谷歌在其产品中嵌入的各种大型语言模型往往是虚构的。谷歌(Google)最初宣布在美国和英国推出巴德(Bard)作为一项试验时亲身体验了这一点。谷歌自己的机器人广告中包含了一个事实错误,这一尴尬让公司股价损失了数十亿美元。 

人工智能初创公司Hugging Face的人工智能研究员萨沙·卢奇奥尼(Sasha Luccioni)表示,谷歌面临着发布新的、令人兴奋的人工智能产品与进行科学研究之间的权衡,这将使其技术具有可复制性,并允许外部研究人员对其进行审计和安全测试。 

过去,谷歌采取了更开放的方法,并开源了其语言模型,例如伯特2018年。“但由于市场和OpenAI的压力,他们正在改变这一切,”卢奇奥尼说。

Luccioni说,代码生成的风险是,用户在编程方面的技能不够,无法发现AI引入的任何错误。这可能导致错误代码和损坏的软件。她补充道,当人工智能语言模型开始就现实生活提供建议时,也有出错的风险。

甚至Ghahramani也警告说,企业应该小心选择使用这些工具的目的,他敦促企业彻底检查结果,而不是盲目相信它们。 

他说:“这些模型非常强大。如果它们生成的东西有缺陷,那么对于软件来说,你必须考虑是否只是将生成的输出合并到任务关键型软件中。”。 

但是,人工智能语言模型也存在相关风险,即使是最新的技术成熟的人也几乎没有开始理解。它是文本时难以检测而且,越来越多的图像是人工智能生成的,这使得这些工具可以用于大规模的虚假信息或欺诈。 

这些模型很容易“越狱”,因此它们违反了自己的政策,例如,指示人们做一些非法的事情。他们也是易受攻击当集成到浏览web的产品中时,会受到黑客的攻击,而且目前还没有解决该问题的方法。 

Ghahramani表示,谷歌定期进行测试,以提高其模型的安全性,并建立了控制机制,防止人们产生有毒内容。但他承认,它仍然没有解决这个漏洞,也没有解决“幻觉”问题,聊天机器人自信地制造废话。 

硬启动

全力以赴开发生成性人工智能可能会适得其反。科技公司目前正面临监管机构对其人工智能产品的严格审查。欧盟正在最后确定其第一项人工智能法规,即《人工智能法案》,而在美国,白宫最近召集了谷歌、微软和OpenAI的领导人,讨论负责任地开发人工智能的必要性。美国联邦机构,如联邦贸易委员会(federal Trade Commission)表示,他们正在更加关注人工智能可能造成的危害。

沙阿说,如果一些与AI相关的担忧最终得到平息,这可能会让监管机构或立法者有理由采取行动,切实追究谷歌的责任。 

但Shah认为,在与企业软件市场保持控制权的斗争中,谷歌觉得自己不能冒输给竞争对手的风险。“这就是他们制造的战争,”他说。目前,“几乎没有什么可以阻止他们。”

深度潜水

人工智能

萨姆·奥尔特曼表示,乐于助人的特工将成为AI的杀手

Open AI的首席执行官表示,我们不需要新的硬件或更多的培训数据。

一家AI初创公司对我做了一个超现实的深度伪装,真是太好了,太可怕了

Synthesia的新技术令人印象深刻,但也提出了一个重大问题,即我们越来越无法分辨什么是真实的世界。

机器人即将拥有自己的ChatGPT时刻吗?

研究人员正在使用生成人工智能和其他技术向机器人传授新技能,包括他们可以在家里执行的任务。

保持联系

Rose Wong插图

从获取最新更新
麻省理工学院技术评论

发现特别优惠、热门故事、,即将举行的活动等。

感谢您提交电子邮件!

浏览更多新闻稿

看起来好像出了问题。

我们无法保存您的首选项。尝试刷新此页面并更新一个更多的时间。如果您继续收到此消息,联系我们customer-service@technologyreview.com带有您想要接收的通讯列表。