该小组将以NIST的风险管理框架为基础，应对快速发展的生成性人工智能的风险

今天，美国商务部长吉娜·雷蒙多宣布，美国国家标准与技术研究所（NIST）正在启动一个新的人工智能公共工作组，该工作组将以NIST AI风险管理框架（RMF）解决这一快速发展的技术。生成性人工智能公共工作组将帮助解决与能够生成代码、文本、图像、视频和音乐等内容的人工智能相关的机遇和挑战。公共工作组还将帮助NIST制定关键指南，帮助组织应对与生成性人工智能技术相关的特殊风险。拜登总统在会晤后宣布了这一消息本周早些时候召开拜登-哈利斯政府承诺抓住AI带来的机遇并管理其带来的风险。

国务卿雷蒙多说：“拜登总统明确表示，我们必须努力利用巨大的潜力，同时管理人工智能给我们的经济、国家安全和社会带来的风险。”。“最近发布的NIST AI风险管理框架有助于将生成性AI技术的潜在危害降至最低。在该框架的基础上，这个新的公共工作组将为开发、部署和使用生成性人工智能的组织以及有责任确保其安全的组织提供基本指导它的可信度。”

公共工作组将吸收来自私营和公共部门的技术专家组成的志愿者，并将重点关注与这类人工智能相关的风险，这类智能正在推动技术和市场产品的快速变化。

“考虑到生成性人工智能前所未有的速度、规模和潜在影响，以及它在更大范围内革命性地改变许多行业和社会的潜力，这一新团队尤其及时，”标准与技术商务部副部长兼NIST主管Laurie E.Locascio说道。“我们希望确定和开发工具，以更好地了解和管理这些风险，我们希望吸引更多人加入这个新团队。”

NIST为工作组制定了短期、中期和长期目标。最初，它将作为收集指南输入的工具，该指南描述了NIST AI风险管理概况（AI RMF）可用于支持生成性人工智能技术的开发。这种类型的指导称为概况，将支持并鼓励使用AI RMF来应对相关风险。

在中期，工作组将支持NIST在生成性人工智能相关的测试、评估和测量方面的工作。这将包括支持NIST参加2023年DEF CON的人工智能村，这是一次运行时间最长、规模最大的地下黑客会议。

从长远来看，该小组将探索具体的机会，以增加强大的生成性人工智能技术被有效地用于解决我们时代在健康、环境和气候变化等领域面临的重大挑战的可能性。该小组可以帮助确保在开发和使用AI应用程序之前、期间和之后解决和管理风险。

有兴趣加入NIST Generative AI Public Working Group的人员应完成这个表格不迟于7月9日。参与者将有机会选择帮助AI RMF开发生成性AI档案，作为其对团队贡献的一部分。

生成性人工智能也是NIST与人工智能领导者进行的一系列视频访谈的前两个主题，旨在探讨提高快节奏人工智能技术可信度的关键问题。第1部分讲述了Anthropic的联合创始人Jack Clark和CREDO AI的创始人兼首席执行官Navrina Singh，他们接受了NIST信息技术实验室新兴技术副主任Elham Tabassi的采访。在第二部分中，斯坦福大学博士生Rishi Bomassani和Hugging Face的政策主管Irene Solaiman接受了NIST人工智能偏见首席研究员Reva Schwartz的采访。“NIST人工智能对话”系列中的所有视频将在NIST网站.

此外，今天，国家人工智能咨询委员会向总统提交了第一份报告，并确定了委员会未来两年的重点领域。完整报告，包括其所有建议，可以在AI.gov网站.

关于公共工作组或NIST其他与生成性人工智能相关的工作的问题可发送至：[电子邮件保护].