人工智能政策现状：民主价值观视角

过去一年，人工智能政策和实践世界发生了快速变化。各国政府和国际组织正着手创建新的框架，以平衡人工智能的利益。人们一致认为，更广泛地采用这些系统需要公众的信任，而这反过来又需要以人为中心的系统。但“值得信赖”和“以人为本”不能仅仅是口号。要使系统可靠，必须对其进行独立评估。它应该产生可以验证、复制和证明的结果。“以人为本”必然要求人类能动性的中心地位。不负责任的、自主的设备做出关于人的决策，与以人为中心的、可信赖的人工智能正好相反。

从民间社会的角度来看，迄今为止，缺乏能够确保对这些制度进行监督的条例，加上最低限度的透明度，使那些致力于使政府、公共和私营实体承担责任的人越来越感到关切。随着人工智能系统的广泛采用，对基本人权、民主价值观和法治的影响成为讨论的核心。隐私权和其他权利，包括健康权、教育权、正当程序权、行动自由权、和平集会和结社自由权以及言论自由权，都会受到人工智能系统部署方式的影响。

人工智能与数字政策中心（CAIDP）提出了2020年的目标，即独立评估全球在以人为中心和值得信赖的人工智能方面的进展。CAIDP的研究人员一致认为，这些进展需要对世界各国的人工智能政策进行广泛的实证调查。调查还需要与广泛接受的框架和原则相对应的指标，以便量化承诺和实践。[1]AI和民主价值指数的结果有以下目标：（1）根据公开来源记录有影响力国家的AI政策和实践，（2）根据全球规范建立评估AI政策与实践的方法，（3）基于此方法评估人工智能政策和实践，并为比较评估提供基础，（4）为未来评估提供基础；（5）最终鼓励所有国家实现可信、以人为本、为所有人提供广泛社会利益的人工智能承诺。

AI指数基于这些公认的规范和权威评估的来源。OECD/G20 AI原则[2]提供了一个起点，《世界人权宣言》也是如此[3]是公认的最广泛的基本权利法律文书。我们借鉴国际人权组织和数据保护专家的工作，制定了一种方法。随着工作的进展，我们修改了问题，发现了新的因素。我们很早就认识到一个国家对“公平”等关键原则的认可与一个国家执行该原则之间的差异。认可很容易衡量，实施起来却不那么容易。在强调这一区别的同时，我们希望其他人也能更密切地关注各国的言行差异，所有这些都是为了缩小这一差距。我们知道我们不可能考虑所有国家的做法，所以我们选择了那些我们认为最具影响力的国家（再次依赖客观指标）。[4]2021年，CAIDP发布了针对12个指标的30个国家的分析。2022年，在100多名政策专家的协助下，该分析已扩展到50个国家。我们的研究团队审查了国家人工智能战略、对国际政策框架的承诺、对数据保护和透明度等民主规范的遵守、决策者的声明以及政府机构的活动。国家报告的叙述为定量评估提供了基础，随后是各个国家的评级和排名。

如果公共或私人行为者使用的某些人工智能系统的开发和部署没有以自然人的尊严和权利为中心，则会给社会和民主价值带来巨大风险。一个国家政府如何处理问责制、权力和进步问题，直接关系到它对民主价值观和基本权利的尊重程度。当然，没有一个国家是在真空中运作的。国际组织，如经合组织、七国集团和二十国集团、教科文组织、欧盟和欧洲委员会，可以建立政策框架和法律标准，促进技术的有益使用，遏制一些政府的危险野心。这在人工智能政策领域尤为明显，在那里，新兴的全球规范如果得到有效实施，可能会阻止人工智能技术用于社会计分、大规模监视和自主武器。因此，要了解全球人工智能政策的现状，还需要了解这些组织的进展情况。 

从单个国家的角度来看，今年的AI和民主价值指数[5]加拿大、德国、意大利和韩国因其在人工智能政策方面的全球领导力、对民主价值观的承诺以及与公众就拟议的人工智能战略进行有意义的接触而位居前列。排名靠前的其他重要因素包括完善的数据保护基础设施、对算法透明度的支持以及对AI系统公平性、问责制和透明度的承诺。去年，加拿大当局认定ClearviewAI是一种大规模监视，侵犯了加拿大人的隐私和数据保护权利。德国继续在欧盟人工智能政策方面发挥领导作用，强调保护基本权利和公众持续参与人工智能政策制定。作为G20峰会的东道主，意大利提出了人工智能政策建议，强调数据保护和性别平等、多样性和包容性。韩国对人工智能影响评估提出了新要求，发布了个人信息保护指南，并扩大了算法透明度。

中国还在数据保护和推荐算法监管方面通过了全面的新法律。尽管隐私规则看起来与GDPR非常相似，推荐算法管理条例与欧盟和美国国会待决的提案有着相似的雄心壮志，但人们对旨在有利于当权政府的AI政策确实感到担忧。在这方面，这种法律结构的固有偏见抵消了透明度和问责制的目标。 

尽管私营部门在人工智能创新方面具有全球优势，但美国在该指数中排名第三。由于缺乏实施人工智能保障的法律框架和保护隐私的联邦机构，人们对美国监控人工智能实践的能力感到担忧。

在全球范围内，193个国家于2021年11月通过的联合国教科文组织《人工智能道德建议》是过去一年最重要的人工智能政策发展。[6]联合国教科文组织的建议直接表达了各国普遍的愿望，即人工智能应该造福人类。在几年前几乎不存在的人工智能政策领域，联合国教科文组织人工智能建议是一个非常全面的人工智能策略框架，涉及对人工智能系统的既定关注，如公平、准确性和透明度，以及新出现的问题，包括性别公平和可持续发展。联合国教科文组织的道德影响评估提案为提前评估人工智能系统部署的后果提供了一个强大的新工具。认识到第一个全球人工智能道德框架的重要性，CAIDP今年修改了其中一个指标，以考虑到联合国教科文组织关于人工智能的建议的重要性。这是一个值得认可和庆祝的发展。在未来的报告中，我们可能会添加另一个指标，以评估更具挑战性的实施问题。

自我们上一份报告发表以来，我们还注意到，欧盟委员会提出了监管人工智能的建议。委员会制定了一项全面的、基于风险的方法，可以将“布鲁塞尔效应”扩大到人工智能的全球治理。欧洲议会也表示打算加强关键条款，并可能禁止使用人工智能技术进行远程生物识别。与此同时，由斯洛文尼亚（现为法国）担任主席的欧洲联盟理事会提出了补充案文，除其他外，将禁止社会评分扩大到私营公司和公共机构。

2021年还标志着非洲通过了第473号决议，该决议涉及对人权、人民权利和人工智能进行研究的必要性。非洲人权和人民权利委员会呼吁缔约国“确保人工智能、机器人技术和其他新兴技术的开发和使用符合《非洲宪章》和其他区域和国际人权文书中的权利和义务，以维护人类尊严、隐私、平等、非歧视、包容、多样性、安全、公平、透明y、 问责制和经济发展是指导人工智能、机器人技术和其他新兴技术开发和使用的基本原则。”^[7]

欧洲委员会，欧洲大陆领先的人权组织[8]由47个成员国组成，于2019年9月成立了人工智能特设委员会（CAHAI）。[9]CAHAI的任务是“根据欧洲委员会关于人权、民主和法治的标准，在广泛的多方参与者协商的基础上，审查人工智能开发、设计和应用的法律框架的可行性和潜在因素。”[10]CAHAI于2021年12月举行了最后一次会议。[11]会议结束时，CAHAI通过了“基于欧洲委员会人权、民主和法治标准的人工智能法律框架的可能要素”CAHAI框架概述了委员会认为可以纳入COE具有法律约束力或非法律约束力的文书中的法律和其他要素，这些文书将构成AI的适当法律框架（可能是公约）。CAHAI框架现提交部长委员会进一步审议。委员会已于2021年强调，应根据法律确定性、合法性、数据质量、非歧视性和透明度的原则制定和实施此类系统。[12]

我们还注意到在大规模监控中部署面部识别的冲突日益加剧.虽然欧洲议会投票禁止将人工智能技术用于这一目的，但许多政府和私营公司推动了在住宅社区、学校教室内和公共公园使用新的监控系统。这些不是老式的闭路电视摄像机，而是精密的图像处理系统，专门用于识别公共场所中的个人姓名。在一些国家，这种独特的身份识别系统与精心设计的政府数据库联系在一起，根据人们对当权政府的忠诚度对他们进行评分。这是一种甚至杰里米·边沁的全景监狱设计都无法想象的社会控制形式。

我们还提请注意，在12月下旬的联合国会议上，谈判代表不幸未能就限制或更好地禁止使用致命自主武器的提案取得进展。就在同一年，联合国建议在利比亚内战中首次使用无人驾驶飞机群瞄准并杀死撤退的军队。

随着人工智能政策领域的迅速成熟，我们观察到司法判决的日益增多，现在正在形成算法的法则.在一些案件中，包括对员工绩效的秘密评估，法院拒绝了不透明的自动判决。这些判决基于成熟的法律框架，如GDPR，尽管我们也看到立法努力使人工智能技术的自动决策更加负责。我们报告了这些结果，因为算法透明度仍然是我们评估人工智能政策和实践的关键指标之一。

在解决人工智能时代推进民主价值观的需要时，欧盟、美国和盟国为共同目标而努力的能力仍然至关重要。在这方面，过去一年既令人乐观，也令人担忧。欧盟和美国于2021年成立了贸易和技术委员会，该委员会制定了AI政策的共同框架，可以促进进一步的跨大西洋合作。[13]好消息是，“人权”和“民主价值观”是许多提案的基础。拜登政府的高级官员也表示支持《欧盟人工智能法案》，这是一个可能在2022年推进的关键立法框架。

与此同时，《欧盟人工智能法案》的未来并不确定，因为一些政客错误地认为，可以用保护权利换取创新。未能保护权利的技术不是创新，而是压迫性和窒息性的.在美国方面，几个联邦机构已经启动了与AI相关的“听证会”，但建立法律标准以保护民主价值观的必要工作尚未开始。

尽管如此，我们对国家人工智能政策和实践的调查也揭示了世界各地许多非政府组织、倡导者、学者和政府官员的辛勤工作，他们充分参与了人工智能带来的挑战，并准备站在第一线捍卫基本权利. 欧洲的“收回你的脸”运动以及非洲、亚洲和拉丁美洲的类似运动取得了显著进展，这表明公众迅速认识到，并非所有的技术变革影响都值得欢迎。 

在过去的一年里，联合国人权事务高级专员米歇尔·巴切莱特呼吁禁止不符合国际人权法的人工智能技术，从而明确了这一点。巴切莱特专员表示，“人权风险越高，使用人工智能技术的法律要求就越严格。”[14]

人们越来越认识到，“红线”是保障基本权利所必需的。在这一认识中，我们还可以找到调整人工智能政策和实践的关键，从而缩小现有人工智能世界与我们希望居住的人工智能世界之间的差距。如果人工智能要保持以人为本，那么