本周，欧洲委员会（COE）预计将结束关于第一个人工智能国际条约文本的谈判。这项工作很重要，也很及时。许多政府正在制定人工智能战略和政策，但对于控制这一迅速崛起的技术的基本规范，仍然没有达成一致意见。人们越来越担心，随着人工智能系统的广泛部署，对基本权利和民主价值观的保护可能会被推到一边。
私营部门面临的挑战最为明显。从医疗保健到雇佣、信贷和保险决策，有无数证据表明，不受监管的人工智能系统会复制偏见并产生不公平的结果。例如，从工作场所到学校教室，私营部门的人工智能监控系统压制了人们的权利和自由，现在可以毫无限制地收集个人数据，用于精心设计的培训模式。学者、前美国总统科学顾问阿隆德拉·纳尔逊（Alondra Nelson）博士呼吁通过AI权利法案来解决这些问题。
考虑到这些问题，欧洲委员会在几年前开始制定一项AI条约。目标是各国就管理AI的基本规则达成全面而深远的协议，以保护人权、民主价值观和法治。第一轮工作提出了一项具有法律约束力的条约的建议，该条约涵盖了私人和公共行为者开展的活动，然后由一个委员会负责起草条约。
欧洲委员会有46个成员国，但观察员（如美国、加拿大、日本和墨西哥）也可以参与条约的起草。COE条约的影响超出了目前参与的条约，因为条约开放供全世界所有国家批准。
在起草工作的大部分时间里，人们仍然抱有很高的希望，希望这一进程能够产生一个强大的框架，能够胜任管理历史上最具变革性技术之一的任务。但随着谈判接近最后阶段，出现了困难。许多私营部门同意监管的必要性，但美国等国家据报道推动“分拆“针对私营部门AI系统。此外，安全部队希望将国家安全人工智能系统从条约范围内移除。
人工智能专家对这些最新发展发出了警报。英国计算机科学家斯图亚特·罗素（Stuart Russell）是世界领先的人工智能专家之一，他告诉与会代表，一项未能涵盖私营部门人工智能系统的人工智能条约将忽视当今对公共安全的最大风险，国家安全方面的排斥可能使各国更容易受到外国对手的攻击，并可能被用作国内大规模监视和缩小权利范围的借口。
最近调查来自电子与电气工程师协会（IEEE）的成员证实了这些担忧。IEEE是一个领先的计算机专业协会。绝大多数美国IEEE成员表示，美国目前管理人工智能系统的监管方法是不够的。按照最近通过的《欧洲人工智能法案》的要求，约84%的人支持对中高风险人工智能产品进行风险评估，近68%的人则支持在雇佣和教育等重大决策中规范算法使用的政策。超过93%的受访者支持保护个人数据隐私，并支持监管以解决人工智能产生的错误信息。
这些担忧得到了广泛的认同。欧洲已有100多个民间社会组织敦促欧洲委员会（Council of Europe）谈判代表将取消科技行业和国家安全的全面例外。加拿大和美国的专家和倡导者也参加了类似的活动。
民意调查数据显示，公众对人工智能的担忧与日俱增。在美国，皮尤兴趣研究中心建立美国人对人工智能的关注远远超过了他们的热情，这一差距在过去几年中不断扩大。
2019年，当经合组织AI原则（第一个AI治理框架）制定出来时，美国是推动这一进程的领导者之一。经合组织人工智能原则没有区分公共或私营部门部署的人工智能系统。英国和日本作为当前条约对话的主要参与者，也支持经合组织的人工智能原则。
当美国总统乔·拜登一再强调人工智能系统需要护栏，这会影响我们的权利和安全时，很难遵循这样一个私营部门分拆的理由。总统呼吁国会制定人工智能法规，两党就此类法律的必要性达成一致。
我们认为有一个解决方案：回归第一原则。签订条约的原因是为了使各国团结起来，支持共同承诺。如果一些非欧洲国家难以与共同目标保持一致，请给它们执行的时间，如果绝对必要，允许出于特定目的的例外情况。例如，美国可以承诺签署一项全面条约，但随后在批准过程中采取减损措施。然而，缩小条约本身的范围将降低保护所有国家人权和民主的门槛。我们不应忽视现在准备向前迈进的国家之间作出共同承诺的必要性。大赦国际条约没有规定国内实施方法。各国的法律制度和传统可能不同。法律制度的差异不应妨碍我们在保护人权和民主方面团结一致。
几年前，前马萨诸塞州州长和总统候选人迈克尔·杜卡基斯（Michael Dukakis）首次呼吁就人工智能达成全球协议，反映出人们普遍关注“这些技术会发生什么，我们是否有正当理由使用它们，并确保它们受到国际控制”许多专家警告说，人工智能可能会破坏选举，取代工作，并取代人类决策。人们对不受监管的人工智能的担忧与日俱增。12月，教皇弗朗西斯（Pope Francis）呼吁制定一项具有法律约束力的国际条约来规范人工智能。他说，决不能允许算法取代人类的价值观，并警告说，“技术独裁”威胁着人类的生存。教皇敦促各国共同努力，通过一项具有约束力的国际条约，规范人工智能的开发和使用。
新条约提供了一个独特的机会来应对我们时代的巨大挑战之一——确保人工智能造福人类。条约未来缔约国的义务不应模棱两可。
本文的简短版本已发布2024年3月12日。
