这个故事来自我们关于人工智能的每周通讯《算法》。要先在收件箱里收到这样的故事在这里注册.

已经完成了。一切都结束了。该法案首次推出两年半后，经过数月的游说和政治斗争，再加上耗时近40小时的艰苦最终谈判，欧盟立法者已就《人工智能法案》达成协议。这将是世界上第一部全面的人工智能法律。 

《人工智能法案》被认为是一项里程碑式的法案，它将在使用人工智能对基本权利构成最大风险的领域减轻伤害，如医疗保健、教育、边境监视和公共服务，并禁止具有“不可接受风险”的使用

例如，“高风险”人工智能系统必须遵守严格的规则，这些规则要求风险缓解系统、高质量的数据集、更好的文档和人为监督。绝大多数人工智能应用，如推荐系统和垃圾邮件过滤器，都将获得免费通行证

《人工智能法案》是一项重大交易，因为它将为目前具有巨大影响力的西部地区引入重要规则和执行机制。 

以下是《麻省理工学院技术评论》的主要结论：

1.《AI法案》引入了关于透明度和道德的重要、有约束力的规则

科技公司喜欢谈论他们对人工智能伦理的承诺但当谈到具体措施时，话题就没有了。无论如何，行动胜于雄辩。负责的AI团队通常是第一个看到裁员的人，事实上，科技公司可以随时决定改变其AI道德政策。例如，OpenAI开始时是一个“开放”的AI研究实验室，然后关闭公众访问其研究以保护其竞争优势，就像其他AI初创公司一样。 

《人工智能法案》将改变这一状况。该法规规定了具有法律约束力的规则，要求科技公司在与聊天机器人或生物特征分类或情感识别系统交互时通知用户。它还将要求他们为深度伪造和人工智能生成的内容添加标签，并以能够检测人工智能生成媒体的方式设计系统。这是超越主要人工智能公司向白宫作出的自愿承诺的一步发展AI起源工具，例如水印. 

该法案还要求提供保险和银行等基本服务的所有组织对使用人工智能系统如何影响人们的基本权利进行影响评估。 

2.人工智能公司仍有很大的回旋余地

当人工智能法案于2021年首次推出时，人们仍在谈论元宇宙。（你能想象吗！）

到目前为止，在后ChatGPT时代，立法者认为他们必须在法规中考虑到所谓的基础模型——可以用于多种不同目的的强大人工智能模型。这引发了关于应监管何种模型以及监管是否会扼杀创新的激烈辩论。 

《人工智能法案》将要求基础模型和在此基础上构建的人工智能系统制定更好的文档，遵守欧盟版权法，并共享更多关于模型培训数据的信息。对于最强大的模型，还有额外的要求。例如，科技公司必须分享其人工智能模型的安全性和能效。 

但问题是：立法者发现的折衷方案是只对最强大的人工智能模型应用一套更严格的规则，按照训练它们所需的计算能力进行分类。而这将取决于公司是否遵守更严格的规则。 

一位欧盟委员会官员不愿确认当前的截止日期是否会涵盖OpenAI等强大的模型GPT-4课程或谷歌的双子座因为只有公司自己才知道在训练模型时使用了多少计算能力。这位官员确实表示，随着技术的发展，欧盟可能会改变衡量人工智能模型强大程度的方式。 

3.欧盟将成为世界上首屈一指的人工智能警察

AI法案将设立一个新的欧洲AI办公室，以协调合规性、实施和执法。它将是全球第一个对人工智能实施约束性规则的机构，欧盟希望这将有助于它成为全球科技监管机构。《人工智能法案》的治理机制还包括一个由独立专家组成的科学小组，为人工智能带来的系统风险以及如何分类和测试模型提供指导。 

对违规行为的罚款数额很高：根据违规行为的严重程度和公司的规模，从公司全球销售额的1.5%到7%不等。 

欧洲也将成为世界上首批公民能够对人工智能系统提出投诉，并获得有关人工智能系统如何得出影响他们的结论的解释的地方之一。 

通过成为第一个正式制定人工智能规则的国家，欧盟保留了其先发优势。就像GDPR一样，AI法案也可以成为全球标准。其他地方的公司如果想在世界第二大经济体开展业务，就必须遵守法律。欧盟的规则也比美国引入的规则更进一步，例如白宫行政命令，因为它们具有约束力。 

4.国家安全永远获胜

一些人工智能应用现在在欧盟被完全禁止：使用敏感特征的生物特征分类系统；从互联网或CCTV视频中无目标地抓取面部图像，以创建Clearview AI等面部识别数据库；工作或学校中的情绪识别；社会得分; 操纵人类行为的人工智能系统；以及用于利用人们弱点的人工智能。 

预测性警务欧盟委员会的一位官员表示，这也是被禁止的，除非它被用于“明确的人类评估和客观事实，基本上不只是因为算法如此，就可以在刑事调查中追捕某个人。”。

然而，《人工智能法》不适用于专门为军事和国防用途开发的人工智能系统。 

关于《人工智能法案》的最血腥的斗争之一一直是如何监管警察在公共场所使用生物识别系统，许多人担心这可能导致大规模监视。虽然欧洲议会推动对这项技术实施近乎全面的禁令，但一些欧盟国家，如法国，对此进行了激烈抵制。他们想用它来打击犯罪和恐怖主义。 

欧洲警察部队只有在获得法院批准后才能在公共场所使用生物识别系统，并且只能用于16种不同的具体犯罪，例如恐怖主义、人口贩运、对儿童的性剥削和贩毒。在“与公共安全有关的特殊情况”下，执法机构也可能使用不符合欧洲标准的高风险人工智能系统

5.下一步怎么办？ 

可能需要几周甚至几个月的时间，我们才能看到该法案的最终措辞。该文本仍需经过技术修改，必须得到欧洲国家和欧盟议会的批准才能正式生效。 

一旦生效，科技公司有两年的时间来执行这些规定。禁止人工智能使用的禁令将在六个月后生效，开发基础模型的公司必须在一年内遵守该法律。