2021年人工智能和自动化系统年度法律审查
客户提醒| 2022年1月20日
单击以获取PDF
2021年是人工智能（AI）和自动化技术相关政策提案和立法繁忙的一年。经合组织确定了60个国家的700项人工智能政策倡议，许多国内法律框架正在形成。随着新的《人工智能法案》（预计将于2022年最终敲定）的出台，高风险人工智能系统很可能在欧盟得到明确和全面的监管。虽然国会提出了各种人工智能立法提案，但美国并未采纳欧盟委员会提出的人工智能监管综合方法，而是将重点放在国防和基础设施投资上，以控制人工智能的增长。
然而，与数据隐私法的最新发展相呼应，美国和欧洲的政策制定出现了一些初步的趋同迹象，强调以风险为基础的监管方法，越来越注重道德和“值得信赖”的人工智能，以及消费者的执法途径。在美国，拜登总统的政府宣布了一项“AI权利法案”的制定。此外，美国联邦贸易委员会（“FTC”）表示，对涉及自动化技术和大数据量的消费品和服务的监管特别热情，而且似乎准备在明年加大规则制定和执法活动。此外，新成立的加州隐私保护局（California Privacy Protection Agency）可能会在2023年前负责发布管理AI的法规，预计这将产生深远影响。最后，确保值得信赖的人工智能和ML的治理原则和技术标准正在开始出现，尽管全球监管机构将在多大程度上就跨国界的关键基准达成共识还有待观察。
I.美国国家政策、立法努力和执行
A.单位。美国国家政策
1.国家人工智能战略
近三年前，特朗普总统发布了“维护美国在人工智能领域的领导地位”的行政命令，以启动“美国人工智能倡议”，并寻求加快人工智能的发展和监管，以确保美国在全球人工智能技术领域的领先地位，我们看到美国与AI相关的立法和政策措施大幅增加，为新旧政府架起了桥梁。正如一年前一样，美国联邦政府一直积极协调跨机构领导，鼓励继续研究和开发供政府使用的人工智能技术。为此，已经采取了一些关键的立法和行政行动，旨在促进联邦机构、国家安全和军事应用中此类技术的增长和发展。美国议员还继续与欧盟议员对话，承诺在3月1日举行的欧盟议会听证会上共同努力。[1]代表。罗宾·凯利（D-Ill.）在欧盟人工智能特别委员会的听证会上作证，他指出“那些不认同我们对民主价值观的承诺的国家正在竞相成为人工智能的领导者，并为世界制定规则”。[2]她敦促欧洲在与美国合作的同时，对监管采取“狭隘而灵活”的方法。[3]
a） 2020年国家人工智能倡议法案（2021年国防授权法案（“NDAA”）的一部分）和国家人工智能计划办公室
根据2021年1月1日作为2021年国防授权法案（“NDAA”）的一部分通过的《2020年国家人工智能倡议法案》，[4]OSTP正式成立了国家人工智能倡议办公室（“办公室”）1月12日。NDAA-授权的几个新联邦办公室的第一办公室将负责监督和实施国家人工智能战略，并充当联邦机构和政府、行业和学术界外部利益相关者在人工智能研究和决策方面的协调与合作的中心枢纽。[5]该法案还成立了国家人工智能研究资源特别工作组（“特别工作组”），召集学术界、政府和行业的技术专家，评估建立国家人工智能研发资源（“NAIRR”）的可行性和可取性，并提出建议。[6]任务组将为建立和维持NAIRR制定协调的路线图和实施计划，NAIRR是一个国家研究云，为研究人员提供计算资源、高质量数据集、教育工具和用户支持，以促进人工智能研究和开发的机会。特别工作组将向国会提交两份报告，以提交其调查结果、结论和建议，即2022年5月的中期报告和2022年11月的最终报告。
2021年1月27日，拜登总统签署了一份题为“通过科学和诚信以及循证决策恢复对政府的信任”的备忘录，启动了对联邦科学诚信政策的广泛审查，并指示各机构加强支持循证决策的努力[7]这将“产生重要的见解和最佳实践，包括透明度和问责制……”[8]总统还签署了一项行政命令，正式重组总统科学技术顾问委员会，[9]并宣布成立国家人工智能咨询委员会，负责就人工智能相关的各种主题提供建议，包括美国经济竞争力和领导力的现状、研发和商业应用。[10]
b） 《创新与竞争法》（S.1260）
2021年6月8日，美国参议院以68-32票通过了《美国创新与竞争法案》（S.1260），该法案旨在通过在未来五年向美国科技创新投资2000多亿美元，提高美国与中国技术竞争的能力，其中包括人工智能、机器学习、，以及自主作为“关键技术重点领域”[11]800亿美元被指定用于人工智能、机器人和生物技术的研究。在各种其他计划和活动中，该法案在国家科学基金会（“NSF”）中设立了一个技术和创新理事会，支持科学研究、开发管道，设立拨款，旨在促进私营公司与研究型大学之间达成协议，鼓励技术突破。
该法案还包括被称为“推进美国人工智能法案”的条款[12]旨在“鼓励机构人工智能相关项目和倡议，以增强美国的竞争力”，同时确保人工智能部署“符合美国的价值观，包括保护隐私、公民权利和公民自由”[13]AI特定条款规定，管理和预算办公室（“OMB”）主任应制定政府使用AI的原则和政策，同时考虑到NSCAI报告、2020年12月3日“促进联邦政府使用值得信赖的人工智能”行政命令以及各机构间理事会和专家的投入。[14]
c） 算法治理
我们还看到联邦一级以算法治理为重点的新举措初具规模，并在2021年11月10日白宫科学技术政策办公室（“OSTP”）的公告中达到顶峰，它将在下周发起一系列听证会和活动，让美国公众参与制定自动化社会权利法案的过程。[15]据OSTP主管埃里克（Eric）称，该法案将需要以采购执行的形式“牙齿”。[16]在一次平行行动中，国家人工智能倡议办公室主任Lynne Parker发表评论，表示美国应该对人工智能的监管有一个类似于欧盟《通用数据保护条例》（“GDPR”）的愿景。[17]此外，2021年10月，白宫科学技术政策办公室（“OSTP”）发布了一份RFI，要求就生物特征技术在组织中的表现以及它们如何在情感和心理上影响个人提供反馈。[18]
2021年6月，美国政府问责局（“GAO”）发布了一份报告，确定了有助于确保联邦机构和其他参与人工智能系统设计、开发、部署和持续监控的实体对人工智能的问责和负责任使用的关键做法。[19]该报告确定了四个关键重点领域：（1）组织和算法治理；（2） 系统性能；（3） 记录和分析用于开发和操作人工智能系统的数据；以及（4）持续监测和评估系统，以确保长期的可靠性和相关性。[20]
最后，由特朗普政府负责制定人工智能标准和措施的国家标准与技术研究所（“NIST”）发布了关于如何衡量和增强用户信任以及识别和管理人工智能技术中的偏见的报告。[21]NIST收到了65条关于该文件的评论，作者计划综合并利用公众的反应来制定下一版本的报告，并帮助制定NIST将在未来几个月内举行的几次协作虚拟活动的议程。[22]
2.国家安全
a） NSCAI最终报告
2019年《国防授权法案》设立了一个由15名成员组成的国家人工智能安全委员会（“NSCAI”），并指示NSCAI“审查并建议美国在人工智能、机器学习和其他相关技术方面的竞争力，包括与国家安全、国防、公私伙伴关系和投资相关的事项。”[23]在过去两年里，国家艾滋病委员会发布了多份报告，包括2019年11月和2020年10月的中期报告，另外两份季度备忘录，以及一系列针对新冠肺炎疫情的特别报告。[24]
2021年3月1日，NSCAI向国会和总统提交了最终报告。报告一开始就紧急呼吁采取行动，警告称，美国政府目前没有足够的组织或资源，无法在新兴技术方面与其他国家成功竞争，也没有准备好防御由人工智能驱动的威胁，或为国家安全目的迅速采用人工智能应用程序。在这种背景下，该报告概述了一项战略，以使美国在2025年实现“AI-ready”[25]并确定了在政府部署人工智能系统时提高公共透明度和保护隐私、公民自由和公民权利的具体步骤。NSCAI特别支持使用工具来提高透明度和可解释性：人工智能风险和影响评估；人工智能系统的审计和测试；以及为受到政府使用的人工智能系统不利影响的个人提供适当程序和补救的机制。报告还建议制定人工智能发展的治理和监督政策，其中应包括“审计和报告要求”、“高风险”人工智能系统的审查系统以及受影响者的申诉程序。这些建议可能对私营部门AI的潜在监督和监管产生重大影响。该报告还概述了政府必须采取的紧急行动，以促进人工智能创新，提高国家竞争力，保障人才，保护美国的关键优势，包括知识产权。
b） 国防部国防创新部（DIU）发布了“负责任的人工智能指南”
2021年11月14日，国防部国防创新部（“DIU”）发布了“负责任的人工智能指南”，为第三方开发人员在构建军用人工智能时提供逐步指导。这些指导方针包括确定谁可能使用该技术，谁可能受到该技术的伤害，这些伤害可能是什么，以及在系统构建之前和系统启动运行后如何避免这些伤害的程序。[26]
c） 《人工智能能力和透明度法案》
2021年5月19日，参议员罗伯·波特曼（R-OH）和马丁·海因里希（D-NM）提出了两党合作的《人工智能能力和透明度（AICT）法案》。[27]AICT将提高政府AI系统的透明度，主要基于2021年4月国家安全委员会（“NSCAI”）发布的AI建议。[28]AICT还伴随着《军事人工智能（AIM）法案》。[29]《AICT法案》将在国防部内设立一个人工智能开发和原型试验基金，旨在开发基于人工智能的技术，以满足军方的作战需求，并将为国防部制定一个资源计划，以实现人工智能应用程序的开发、测试、部署和更新。[30]这两项法案都是作为2022财政年度国防授权法案的一部分通过的。[31]
B.消费者保护、隐私和算法公平
1.FTC关注算法的透明度和公平性
2021年4月19日，联邦贸易委员会发布了指导意见，强调其在影响消费者的算法决策方面执行透明和公平原则的意图。博客帖子“致力于贵公司使用人工智能的真实性、公平性和公平性”宣布，联邦贸易委员会打算根据《联邦贸易委员会法案》、《公平信用报告法案》和《平等信用机会法案》第5条的规定，采取与“有偏见算法”相关的执法行动。[32]值得注意的是，该声明明确指出，“销售或使用例如有种族偏见的算法”属于禁止不公平或欺骗性商业行为的范围。这篇博客文章提供了关于“真实、公平、公正地使用人工智能”的具体指导，表明它希望公司通过审计其培训数据“利大于弊”，并在必要时“限制[他们]在哪里或如何使用模型”；在部署前和部署过程中测试他们的算法是否存在不当偏见；采用透明度框架和独立标准；对消费者保持透明，并寻求适当的同意使用消费者数据。该指南还警告公司不要向消费者发表“过度妥协”或虚假陈述产品性能的声明，并指出有偏见的结果可能被视为具有欺骗性，并导致联邦贸易委员会采取执法行动。
2月10日，前联邦贸易委员会代理主席丽贝卡·凯利·斯劳特（Rebecca Kelly Slaughter）在未来隐私论坛（Future of Privacy Forum）上发表讲话，预览了拜登政府下的执法优先事项，并明确将联邦贸易委员会在解决系统性种族主义方面的作用与新冠肺炎加剧的数字鸿沟联系在一起，人工智能和算法决策、面部识别技术以及移动应用程序位置数据的使用。[33]它还遵循了联邦贸易委员会去年的非正式指南，概述了围绕透明度、可解释性、偏见和稳健数据模型的原则和最佳实践。[34]
在联邦贸易委员会新任主席利娜·汗（Lina Khan）的领导下，这些监管优先事项继续加快步伐。利娜·Khan于2021年11月宣布，联邦贸易委员会政策规划办公室新增了几名成员，其中包括三名“人工智能顾问”、梅雷迪斯·惠塔克（Meredith Whittaker）、安巴克·卡克（Ambak Kak）、，Sarah Meyers West之前在纽约大学的AI Now Institute工作，是各种AI主题的专家，包括算法问责制和AI的政治经济。[35]
联邦贸易委员会还采取措施加强其执法权力，通过了一系列措施，以便更快地调查潜在违规行为，包括算法和生物特征方面的偏差问题。[36]此外，2021年7月27日，联邦贸易委员会首席技术专家伊利·梅耶（Erie Meyer）评论说，该机构设想要求从事非法数据使用的公司“不仅要吐出数据和金钱”，还要吐出“被非法数据榨取的算法”[37]犹他州共和党参议员迈克·李（Mike Lee）随后于2021年12月15日提出了一项法案，授权联邦贸易委员会在联邦地区法院寻求赔偿。最高法院4月裁定，该机构向联邦法官寻求禁令的权力不包括要求归还或交还非法所得的权利。[38]拟议的《消费者保护和正当程序法案》将修订《联邦贸易委员会法案》第13（b）条，赋予联邦贸易委员会明确的权力，要求联邦法官允许其从骗子和反托拉斯违法者手中追回资金。[39]
联邦贸易委员会还将“黑暗模式”确定为一个日益关注的问题和执法重点。暗模式可以粗略地定义为利用技术的新用途（包括人工智能），特别是用户体验（UX）设计，例如客户服务机器人、不必要的保修或转换为付费的试用订阅，操纵消费者采取意外行动的技术。[40]在联邦贸易委员会（FTC）审查黑暗模式的虚拟研讨会上，消费者保护局代理局长丹尼尔·考夫曼（Daniel Kaufman），建议公司可以期待联邦贸易委员会在这一领域积极执法，联邦贸易委员会将利用《联邦贸易委员会法案》第5条和《恢复网上购物者信心法案》，通过制定新的规则、政策声明或执法指南来行使其权力。[41]
我们建议开发或部署自动化决策的公司采用“设计道德”方法，审查并加强内部治理、尽职调查和合规政策。公司还应及时了解联邦贸易委员会寻求恢复原状和罚款的能力，并规定删除算法、模型或数据的义务。
2.消费者金融保护局
CFPB目前由前联邦贸易委员会专员Rohit Chopra领导，建议它可以使用《公平信用报告法》（FCRA）对大型科技公司及其商业实践行使管辖权。[42]《公平信用报告法》传统上监管信贷机构、背景调查公司和租户筛选服务的活动，但Chopra发表了几项声明，称科技巨头使用的基础数据可能会触发《公平信用协议》规定的义务。《公平信用报告法》对消费者报告机构的定义相当宽泛，包括收集、评估数据并向第三方销售数据的公司，这些第三方使用这些数据来决定消费者的资格。CFPB可能会寻求对大型科技公司进行调查，以了解数据事实上是否出售给第三方，以及如何在下游使用。
11月，CFPB发布了一份咨询意见，确认消费者报告公司，包括租户和就业筛选公司，如果他们从事粗心的取名程序，就是违法的。[43]CFPB特别关注背景筛选公司为求职者和住房申请人分配虚假身份的算法，因为错误百出的背景筛选报告可能会对有色人种社区产生不成比例的影响。咨询意见重申了消费者报告公司使用合理程序确保尽可能准确的义务和要求。
3.美国。美国平等就业机会委员会
美国平等就业机会委员会计划审查人工智能工具和技术如何应用于就业决策。[44]EEOC的倡议将更仔细地研究技术如何从根本上改变就业决策的方式。它旨在指导申请人、雇员、雇主和技术供应商确保这些技术得到公平使用，符合联邦平等就业机会法。
4.面部识别和生物识别技术
a） 强制执行
2021年1月，联邦贸易委员会宣布与Everabum，Inc.就其“Ever App”达成和解。Ever App是一款照片和视频存储应用程序，使用面部识别技术自动对用户的照片进行排序和“标记”。[45]联邦贸易委员会（FTC）指控，Everabulm向消费者歪曲了其面部识别技术的使用，并保留了违反《联邦贸易委员会法案》第5（a）条停用其账户的用户的照片和视频。根据和解协议，Everabum必须删除使用用户上传的照片和视频开发的模型和算法，并在应用面部识别技术之前获得用户的明确同意，强调删除是一种潜在的强制措施。要求删除使用未经明确同意收集的数据开发的数据、模型和算法可能是一项重大的补救义务，对人工智能开发人员具有更广泛的影响。
FTC专员罗希特·乔普拉（Rohit Chopra）发布了一份随附声明，表示可能会加强这一领域的监管和执法，称该和解协议是“课程修正”，并评论说面部识别技术“存在根本缺陷，加剧了有害偏见”同时强调了“努力颁布暂停令或以其他方式严格限制其使用”的重要性。然而，专员也警告不要在数据保护方面“广泛的联邦先发制人”，并指出监管数据权利的权力应保留在州级。[46]我们将仔细监控联邦贸易委员会（和其他监管机构）的任何进一步执法行动，以及一系列未决诉讼，指控根据越来越多的州隐私法，如伊利诺伊州《生物特征信息隐私法》（“BIPA”），非法收集自动化技术使用的生物特征数据[47]-并建议开发或使用面部识别技术的公司就生物特征数据的许可要求寻求具体的法律建议，并为第三方人工智能应用程序开发强大的人工智能调查和风险评估流程。
b） 立法
2021年，面部识别技术也再次引起了联邦和州立法者的关注。2021年6月15日，一群民主党参议员重新提出了《面部识别和生物识别技术暂停法案》，该法案将禁止机构使用面部识别技术和其他生物识别技术，包括语音识别、门识别、，以及联邦实体对其他不可变物理特征的识别，并阻止联邦资金用于生物特征监测系统。[48]上一届国会两院都提出了类似的法案，但没有在委员会之外取得进展。[49]这项立法得到了美国公民自由联盟和许多其他民权组织的支持，也为违反该法案使用生物特征数据的个人提供了私人行动权（由国家总检察长执行），并试图通过将联邦拨款收据与生物特征技术的局部禁令联系起来，限制当地实体使用生物特征技术。违反法案规定收集的任何生物特征数据也将被禁止在司法程序中使用。
在州一级，弗吉尼亚州通过了一项禁令，禁止执法部门使用面部识别技术（H.B.2031）。这项立法获得了两党的广泛支持，禁止所有地方执法机构和校园警察部门购买或使用面部识别技术，除非得到州立法机构的明确授权。[50]该法律于2021年7月1日生效。弗吉尼亚州与加利福尼亚州以及美国许多城市一起，限制执法部门使用面部识别技术。[51]
5.算法责任
a） 2021年算法正义和在线平台透明度法案（S.1896）
2021年5月27日，马萨诸塞州民主党参议员爱德华·马基（Edward J.Markey）和众议员多丽丝·松井（Doris Matsui）推出了2021年《算法正义和在线平台透明度法案》（Algorithmic Justice and Online Platform Transparency Act of 2021），以禁止有害算法，提高网站内容放大和适度实践的透明度，并委托对整个国民经济中的歧视性算法过程进行跨政府调查。[52]该法案将禁止在线平台上基于种族、年龄、性别、能力和其他受保护特征进行歧视的算法处理。此外，它还将建立算法的安全性和有效性标准，并要求在线平台以明文形式向用户描述算法过程，并保存这些过程的详细记录，以供联邦贸易委员会审查。
b） 《消费者安全技术法案》或《消费品安全法案AI》（H.R.3723）
2021年6月22日，众议院以325-103票通过了《消费者安全技术法案》（Consumer Safety Technology Act），即《消费品安全法案》（AI for Consumer Product Safety Act）（H.R.3723），该法案要求消费品安全委员会创建一个试点项目，使用AI探索消费者安全问题，如伤害趋势、产品危害、召回产品、，或不应进口到美国的产品。[53]这是《消费者安全技术法案》第二次在众议院获得通过。去年，众议院通过后，该法案在提交给商业、科学和运输委员会后，参议院没有取得进展。[54]
c） 2021年数据保护法案（S.2134）
2021年6月，参议员Kirsten Gillibrand（纽约州民主党）提出了2021年数据保护法案，该法案将设立一个独立的联邦机构来保护消费者数据和隐私。[55]该机构的主要重点是保护个人与个人数据的收集、使用和处理相关的隐私。[56]该法案将“自动决策系统”定义为“一种计算过程，包括源自机器学习、统计或其他数据处理或人工智能技术的过程，用于做出决策或促进人类决策。”[57]此外，使用“自动化决策系统处理”是一种“高风险数据实践”，需要在部署后进行影响评估，并对系统的开发和设计进行风险评估，包括对实践的详细描述，包括设计、方法、培训数据和目的，以及任何不同的影响和隐私损害。[58]
d） 过滤器气泡透明度法案
2021年11月9日，一个由两党组成的众议院议员小组提出了一项立法，使人们能够更好地控制影响他们在线体验的算法。[59]如果通过，《过滤泡沫透明度法案》（Filter Bubble Transparency Act）将要求Meta等公司提供其平台的一个版本，该版本运行在“输入透明”算法上，该算法不会拉取用户数据来生成推荐，换句话说，为用户提供了一个选择退出基于个人数据的算法内容提要的选项。这项众议院立法是2021年6月提出的参议院立法的配套法案。
e） Deepfake特遣部队法案
7月29日，密歇根州民主党参议员加里·彼得斯（Gary Peters）和俄亥俄州共和党参议员罗伯·波特曼（Rob Portman）提出了两党立法，该立法将在国土安全部（DHS）内成立一个特别工作组，负责制定一项计划，以减少深水假货、数字处理图像和视频的传播和影响，这些图像和视频与真实视频几乎无法区分。[60]该法案将建立在去年参议院通过的先前立法的基础上，该立法要求国土安全部每年对deepfakes进行一次研究。
6.州和市法规
a） 华盛顿州立法者提出一项法案来监管AI，S.B.5116
继华盛顿去年颁布里程碑式的面部识别法案（s.B.6280）之后，[61]州立法者和民权倡导者提出了新规则，禁止公共机构自动决策产生的歧视。[62]该法案由参议员Bob Hasegawa（D-Beacon Hill）发起，将为使用“自动决策系统”的政府部门制定新的法规，该类别包括分析数据以制定或支持政府决策的任何算法。[63]如果颁布，华盛顿州的公共机构将被禁止使用歧视不同群体的自动决策系统，或做出影响华盛顿居民宪法或法律权利的最终决策。该法案还禁止政府机构在公共场所使用支持人工智能的特征分析。在机构可以使用自动决策系统之前，需要公开提供责任报告，确保技术没有歧视性。
b） 纽约市议会法案通过，禁止雇主在未经年度审计的情况下使用自动招聘工具来确定歧视性影响
2021年11月10日，纽约市议会通过了一项法案，禁止人工智能雇佣系统通过年度审计检查种族或性别歧视。[64]该法案将要求此类人工智能工具的开发人员披露更多有关其工具工作的信息，并为候选人提供选择替代流程审查其应用程序的选项。该法案将对雇主或职业介绍所处以每次1500美元的罚款。
C.知识产权
1. Thaler诉Hirshfeld
历史上，知识产权为人工智能作品提供了不确定的保护。作者和发明家的要求是AI创作作品和发明的永久绊脚石。例如，在美国，专利法拒绝了非人类发明人的概念。[65]联邦巡回法院一直坚持这种做法。[66]今年，人工发明家项目对这一范式提出了几个值得注意的挑战。首先，该团队创建了DABUS，即“统一感知自动引导装置”，这是一个创造了多项发明的人工智能系统。[67]该项目随后与律师合作，在美国、澳大利亚、欧盟和英国提交测试案例。[68]这些雄心勃勃的案例取得了喜忧参半的结果，随着人工智能发明者的激增，可能会进一步分化。
在美国，DABUS在两项专利申请中被列为“唯一发明人”。[69]作为回应，美国专利商标局发布了一份通知，要求提交非临时申请的缺失部分，因为“申请数据表或发明人的誓言或声明没有确定每个发明人或其法定名称”，并强调法律要求发明人“必须由自然人执行”[70]专利申请人在弗吉尼亚州东区寻求复审，该区同意USPTO。[71]人造发明家项目在欧洲也遇到了类似的挫折。欧洲专利局（“EPO”）拒绝了类似的专利申请，认为欧洲专利制度的法律框架导致法律要求人类发明权的结论。[72]上诉法律委员会同样认为，根据《欧洲专利公约》，专利需要人类发明权。[73]DABUS在英国专利法院的表现也不好，该法院认为《专利法》要求发明人必须是个人。[74]相反，南非专利局为人工智能发明者授予了第一项专利。[75]法律团队的一位领导解释了不同的结果：在英国，专利申请因未能遵守与提交专利表格相关的规定而被“视为撤回”；然而，“南非确实进行了形式审查，并根据WIPO先前接受的国际（专利合作条约）申请中的指定，按要求发布了该申请。”[76]几周后，澳大利亚联邦法院也裁定人工智能发明并不是专利性的障碍。[77]但值得注意的是，澳大利亚的专利制度没有采用实质性的专利审查制度。
虽然南非和澳大利亚的发展为人工智能发明人提供了鼓励，但并没有实现统一的希望。相反，更可能采用拼凑方法。美国和欧洲可能会坚持人工智能是发明家的工具，但不是发明家的观点。
2. 谷歌有限责任公司诉甲骨文美国公司。
2021年4月5日，美国最高法院在甲骨文提起的数十亿美元的版权诉讼中裁定谷歌胜诉，认为谷歌使用甲骨文API中的材料构建其Android智能手机平台，并没有侵犯甲骨文在合理使用原则下的版权。[78]值得注意的是，法院没有裁定甲骨文的API声明代码是否受版权保护，但认为，假设出于争论的考虑，材料是受版权保护的，“此处有争议的复制行为仍然构成合理使用。”[79]特别是，法院表示，“谷歌重新实现了用户界面，只需要让用户将其积累的人才投入到一个新的变革性程序中，谷歌复制Sun Java API是对该材料的合理使用，这是一个法律问题。”[80]法院重点关注谷歌对Sun Java API的变革性使用，并将声明代码与其他类型的计算机代码区分开来，认为《版权法》合理使用条款中规定的所有四个指导因素都有利于合理使用。[81]
虽然这项裁决似乎针对这一特定案件，但它可能会对人工智能和平台创建者产生影响。[82]法院对合理使用的适用可以为公司提供一个途径，为无许可证复制组织标签提供辩解。值得注意的是，法院指出，商业使用并不一定会使天平倾斜，不利于合理使用，尤其是在复制材料的使用具有变革性的情况下。这可以帮助希望使用内容以较低成本训练算法的公司，将潜在的隐私考虑因素放在一边（例如在BIPA下）。与此同时，公司可能也会发现，管理和监督使用API代码与平台兼容的竞争性程序更具挑战性。
D.医疗保健
1.FDA AI医疗器械行动计划
2021年1月，美国食品和药物管理局（FDA）提出了第一个五部分行动计划，重点是基于人工智能/机器学习（AI/ML）的软件作为医疗设备（SaMD）。该行动计划是一种多方面的方法，旨在推进美国食品和药物管理局对基于人工智能/机器学习的SaMD的监督，是针对2019年4月讨论文件“人工智能/基于机器学习的软件作为医疗设备的修改拟议监管框架”中的利益相关者反馈而制定的[83]FDA的既定愿景是“通过适当定制的基于产品生命周期的监管监管”，基于AI/ML的SaMD“将提供安全有效的软件功能，提高患者获得的护理质量。”[84]
按照美国食品和药物管理局2021年1月行动计划的建议，美国食品和药品管理局于2021年10月举办了一次公开研讨会，讨论设备信息共享如何支持对所有AI/ML功能医疗设备用户的透明度。[85]研讨会的目的有两个：（1）“确定为AI/ML功能医疗设备用户实现透明度的独特考虑因素，以及透明度可以提高这些设备的安全性和有效性的方式；”和（2）“收集不同利益相关者对信息类型的意见，这些信息将有助于制造商在AI/ML功能医疗设备的标签和面向公众的信息中，以及其他潜在的信息共享机制。”[86]
研讨会有三个主要模块：（1）透明度的含义和作用；（2） 如何提高透明度；（3）公开征求公众意见。[87]具体小组讨论了患者对AI透明度的印象和医生对AI透明性的看法、FDA在促进透明度方面的作用以及从开发人员的角度促进透明度等主题。[88]研讨会结束后，美国食品药品监督管理局在2021年11月15日前征求了公众对研讨会的意见，以供今后考虑。[89]
2.FDA发布AI和机器学习医疗设备清单
2021年9月22日，FDA分享了其基于AI/ML的SaMD的初步清单，这些药物通过510（k）许可、De Novo授权或Premarket（PMA）批准在美国合法销售。[90]该机构制定该清单是为了增加AI/ML型SaMD的透明度和信息获取，并“作为公众关于这些设备和FDA在该领域的工作的资源”[91]与此同时，人们对开发此类产品的兴趣与日俱增，以便为广泛的临床领域做出贡献，越来越多的公司寻求将AI/ML技术纳入医疗设备。FDA指出，“ML最大的潜在好处之一在于它能够从每天提供医疗保健过程中产生的大量数据中创建新的重要见解。”[92]
E.自动车辆（“AV”）
1.美国。美国联邦发展
2021年6月，代表Bob Latta（R-OH-5）再次提出了《安全保障生命未来部署和研究法案》（“自我驱动法案”）（H.R.3711），这将创建一个联邦框架，以协助各机构和行业在全国各地部署自动车辆，并在国家公路交通安全管理局（“NHTSA”）内建立一个高度自动化的车辆咨询委员会。拉塔众议员此前曾于2020年9月23日和前几届会议上提出该法案。[93]
同样在2021年6月，交通部（“DOT”）发布了其“春季监管议程”，并建议国家公路交通安全管理局制定严格的电动汽车测试标准，以及一个国家事故数据库，以记录涉及电动汽车的撞车事故。[94]运输部表示，将有机会对提案进行公众评论。
2021年6月29日，美国国家公路交通安全管理局发布了一项常规命令，要求配备高级驾驶员辅助系统（ADAS）或自动驾驶系统（ADS）的车辆制造商和运营商报告碰撞事故。[95]ADAS在新型车辆中越来越常见，车辆能够控制转向和速度的某些方面。配备ADS的汽车更通俗地称为“自动驾驶汽车”，目前尚未上市。该命令要求，如果碰撞涉及“医院治疗的受伤、死亡、车辆拖曳、安全气囊展开或行人或骑自行车者等易受伤害的道路使用者”，公司必须在获悉碰撞后一天内报告碰撞[96]最新报告也应在该公司获悉事故10天后提交。[97]该命令还要求公司每月报告涉及配备ADS的车辆的所有其他涉及人员受伤或财产损失的车祸。[98]提交给NHTSA的所有报告必须每月更新一次，包括新的或额外的信息。[99]
国家公路交通安全管理局（NHTSA）还要求公众发表意见，以回应其截至2021年第一季度的拟议规则制定预先通知（“ANPRM”）“自动驾驶系统安全框架”。[100]ANPRM承认，NHTSA之前的AV相关监管通知“更多地关注可能配备ADS的车辆的设计，而不一定关注ADS本身的性能。”[101]为此，国家公路交通安全管理局（NHTSA）寻求有关如何通过安全框架进行ADS性能评估的意见，特别是是否应出于与ADS无关的考虑，替换、废除或修改任何联邦机动车安全标准（“FMVSS”）的任何试验程序尽管为ADS建立FMVSS可能为时过早，但随着ADS技术的不断发展，适当的做法是开始考虑国家公路交通安全管理局如何正确使用其监管机构来鼓励对安全的关注，“强调其方法将侧重于灵活的“以性能为导向的方法和指标”超过规则特定的设计特征或其他技术要求。[102]
2.爱荷华州自动化车辆立法
2019年，爱荷华州立法机关批准了一项法律，允许无人驾驶车辆在爱荷华洲的公共公路上行驶，前提是车辆满足某些条件，包括如果自动驾驶系统发生故障，车辆必须能够实现最低风险。它还要求车辆系统符合爱荷华州交通法，制造商必须证明制造商符合所有适用的联邦机动车安全标准。[103]2021年8月，爱荷华州运输委员会批准了自动化车辆规则。这些法规包括要求“制造商或实体不得在爱荷华州测试无驾驶员车辆，无有效许可证”，并对谁有资格获得无驾驶员车辆许可证进行了限制。[104]它还授权该部门“在使用自动驾驶系统时，根据特定功能公路分类、天气条件、一周中的天数、一天中的时间和其他操作设计要素”限制车辆的操作[105]
F.金融服务
随着人工智能在金融服务领域的应用越来越多，这一年也再次推动了对此类技术进步的监管。联邦机构牵头发布了大量新法规，并预测2022年将出台更多新法规。
联邦存款保险公司（FDIC）、联邦储备系统理事会和货币监理署联合发布了一项新的网络安全报告规则。[106]该规则适用于所有银行机构[107]由该机构管理，并迫使银行组织在任何足够严重的“计算机安全事件”发生后36小时内通知其主要联邦监管机构[108]该规定将于2022年4月1日生效，所有受监管实体必须在2022年5月1日前遵守。[109]
除了新颁布的法规外，许多机构表示希望最早在2022年初监管金融服务的技术进步。从2021年3月31日至2021年7月1日，五家机构联合举办了“金融机构使用人工智能”公开评论期，以“了解受访者对金融机构在向客户提供服务时使用人工智能的看法”[110]货币监理署操作风险政策副主计长Kevin Greenfield指出，除其他问题外，RFI将特别阐明人工智能通过对受保护阶层的不同影响而可能违反消费者保护法的问题。[111]监管机构的这一系列活动表明，2022年将是一个活跃的时期，可能会出台几项引人注目的新法规，管理各种形式的金融服务实体使用先进技术的情况。
三、。欧盟政策和法规发展
A.欧盟
1.欧盟范围AI法规的EC立法草案
2021年4月21日，欧洲委员会（“EC”）提交了备受期待的AI条例综合草案（也称为“人工智能法案”）。[112]正如我们的客户提醒中所强调的“欧盟人工智能监管提案发布“以及在我们的”20年第3季度人工智能和自动化系统法律更新”，该草案是在人工智能领域的各种出版物和政策努力之后提出的，目的是将欧盟置于人工智能监管和创新的前沿。拟议的《人工智能法》兑现了欧盟主席的承诺，即为欧洲在人类和环境问题上的协调方法提出立法d人工智能的道德含义[113]并将适用于所有27个欧盟成员国并具有约束力。
为了“实现促进人工智能的吸收和解决与此类技术的某些使用相关的风险的双重目标”[114]欧盟通常选择基于风险的方法，而不是全面的技术禁令。然而，《人工智能法》也包含了对某些“人工智能实践”的彻底禁止，以及针对“高风险人工智能系统”的一些影响深远的规定，这多少让人想起了欧盟一般数据保护条例（“GDPR”）下的监管方法； 即广泛的域外影响和严厉的惩罚，并可能在即将到来的立法程序中引起争议和辩论。
正如欧共体在其对《人工智能法》的解释性备忘录中所述，拟议框架涵盖以下具体目标：
- 确保欧盟可用的人工智能系统安全并尊重欧盟法律和价值观；
- 确保法律确定性，以促进AI投资和创新；
- 加强适用于人工智能的现有法律（如产品安全立法）的治理和有效执行；和
- 促进人工智能单一市场的发展，防止欧盟内部的市场分割。
虽然《人工智能法案》何时生效以及以何种形式生效尚不确定，但欧盟委员会已经为即将到来的政策辩论定下了基调，提出了这一雄心勃勃的新提议。虽然某些规定和义务可能不会延续到最终立法中，但值得注意的是，欧盟议会已经敦促欧盟委员会在其监管框架中优先考虑道德原则。[115]因此，我们预计拟议规则不会被大幅稀释，甚至可能进一步收紧。开发或使用人工智能系统的公司，无论是在欧盟还是国外，都应密切关注《人工智能法》的进一步发展，尤其是禁止的“不可接受”和“高风险”用例的范围，可能适用于非常广泛的产品和应用。
我们随时准备协助客户解决拟议欧盟法规提出的潜在问题，同时继续密切监测这方面的事态发展以及公众反应。我们可以并将帮助建议任何希望在这一过程中发言的客户。
2.欧盟议会AI报告草案
2021年11月2日，欧盟特别委员会向欧洲议会发布了《数字时代人工智能报告草案》，其中强调了使用人工智能的好处，如应对气候变化和流行病，以及各种道德和法律挑战。[116]根据报告草案，欧盟不应将人工智能作为一种技术进行监管；相反，监管干预的类型、强度和时间应该完全取决于与人工智能系统的特定使用相关的风险类型。报告草案还强调了在全球社会内就负责任地使用人工智能的最低标准达成共识的挑战，以及对武器系统在没有人类监督的情况下的军事研究和技术发展的关切。
3.欧盟理事会提议电子隐私法规
2021年2月10日，代表欧盟成员国政府的欧盟理事会（“欧盟理事会”）就电子隐私指令的修订提供了谈判授权，并发布了新电子隐私条例的更新提案。与当前的电子隐私指令相反，新的电子隐私条例不必在国家法律中实施，但将直接适用于所有欧盟成员国，而无需转换。
《电子隐私指令》包含与使用电子通信服务相关的隐私和保密性相关的规则。然而，考虑到自2002年通过以来所取得的全面而迅速的技术进步，这些规则的更新被视为至关重要。新的《电子隐私条例》（ePrivacy Regulation）将废除并取代《电子隐私指令》（ePrivacy Directive），该条例已讨论了数年。
根据欧盟理事会的提议，电子隐私条例还将涵盖通过公共网络传输的机器对机器数据，这可能会对开发基于人工智能的产品和其他数据驱动技术的公司使用数据造成限制。作为一般规则，所有电子通信数据都将被视为机密，除非电子隐私条例明确允许处理或其他使用。与欧洲一般数据保护条例（“GDPR”）类似，电子隐私条例也适用于在欧盟以外进行的处理和/或在欧盟以外建立的服务提供商，前提是其数据正在处理的电子通信服务的最终用户位于欧盟境内。
然而，与GDPR不同，《电子隐私条例》将涵盖使用公开可用的电子通信服务和网络传输的所有通信内容，而不仅仅是个人数据。此外，元数据（如接收通信的位置和时间）也属于《电子隐私条例》的范围。
预计该提案草案将在与欧洲议会谈判期间进行进一步修改。因此，除了用户同意处理通信内容和元数据以开发、，改进和提供基于AI的产品和应用程序。如果欧盟理事会和欧盟议会之间的谈判没有任何进一步的拖延，新的电子隐私条例可能最早于2023年生效。
4.EDPB和EDPS呼吁禁止在公共无障碍空间使用人工智能进行面部识别
2021年6月21日，欧洲数据保护委员会（“EDPB”）和欧洲数据保护主管（“EDPS”）发表了一项联合意见，呼吁全面禁止“在任何情况下，使用人工智能在公共空间自动识别人类特征，例如识别人脸、步态、指纹、DNA、语音、按键和其他生物特征或行为信号。”[117]
在他们的意见中，EDPB和EDPS欢迎支持EC提议的AI法规的基于风险的方法，并强调其具有重要的数据保护意义。该意见还指出，欧盟AI法规指定的EDPS作为欧盟机构监管的主管机构和市场监督机构的作用应进一步明确。[118]值得注意的是，该意见还建议“禁止人工智能系统使用生物特征将个人按种族、性别、政治或性取向或《基本权利宪章》第21条禁止歧视的其他理由归类为群体。”
此外，EDPB和EDPS指出，他们“认为使用人工智能推断自然人的情绪是非常不可取的，应予以禁止，除非是非常特殊的情况，例如某些健康目的，其中患者情绪识别很重要，并且应禁止将人工智能用于任何类型的社会评分。”
四、。英国政策和法规发展
A.英国启动国家人工智能战略
2021年9月22日，英国政府发布了“国家人工智能战略”（“战略”）[119]根据数字、文化、媒体和体育部议会副国务卿克里斯·菲利普（Chris Philip）的说法，该战略的目的是概述“未来十年增长的基础”，以帮助英国抓住“人工智能的潜力”让它形成“世界治理它的方式”[120]该战略有三大支柱：（1）投资于人工智能生态系统的长期需求；（2） 确保AI惠及所有部门和地区；（3）有效治理人工智能。
为此，英国旨在吸引全球人才来开发人工智能技术，方法是继续支持现有的与学院相关的干预措施，并拓宽有才华的人工智能研究人员和个人在英国工作的途径（例如，引入新的VISA途径）。英国还寻求采用一种新的人工智能研究、开发和创新方法，例如启动国家人工智能研究与创新计划，并在研究与开发领域的共同挑战上开展国际合作（例如，通过实施《美英人工智能研究与开发合作宣言》）。
该战略还强调，有效的人工智能前创新治理意味着，除其他外，英国有一个明确、适度和有效的框架来监管人工智能，以支持创新，同时应对实际风险和危害。目前，英国对人工智能的监管是按行业安排的，从竞争到数据保护。然而，该战略承认，这种方法可能会导致各种问题，包括跨部门的方法不一致以及监管授权之间的重叠。为了解决这一问题，第三支柱概述了即将采取的改善人工智能治理的关键举措：人工智能办公室将于2022年初发布一份白皮书，其中将概述政府对人工智能系统潜在风险和危害的立场。政府还将采取其他行动，包括试行人工智能标准中心，以协调英国在全球制定人工智能规则方面的参与，并与阿兰·图灵研究所合作，就人工智能的道德和安全问题提供最新指导。
B.英国政府发布自动化决策的道德、透明度和问责制框架
2021年5月13日，英国政府发布了一个框架，规定了公共部门机构如何以道德和可持续的方式部署自动化决策技术（“框架”）。[121]该框架将自动化决策分为两类：（1）完全自动化的决策——“完全自动化，无需人工判断”的决策；（2）自动化辅助决策——当“自动化或算法系统帮助人类判断和决策”时。该框架适用于这两种类型，并规定了使用自动化决策时要遵循的七步流程：（1）测试以避免任何意外结果或后果；（2） 为所有用户和公民提供公平的服务；（3） 明确责任人；（4） 安全处理数据，保护公民利益；（5） 帮助用户和公民了解它如何影响他们；（6） 确保遵守法律，包括数据保护法、《2010年平等法案》和《公共部门平等义务》；（7）确保算法或系统得到持续监控，并减轻意外后果。
C.英国政府发布算法透明度标准
算法透明性是指算法工具如何支持决策的公开性。内阁办公室的中央数字和数据办公室（“CDDO”）为政府部门和公共部门机构制定了算法透明度标准，于2021年11月29日发布[122]（“标准”）。这使得英国成为世界上最早制定算法透明度国家标准的国家之一。该标准处于试点阶段，随后CDDO将根据收集的反馈意见审查该标准，并于2022年寻求数据标准管理局的正式批准。
D.ICO就其在英国使用实时面部识别的政策提供见解
2021年6月18日，信息专员办公室（“ICO”）发布了一份专员关于在英国使用实时面部识别（“LFR”）的意见（“意见”）。[123]面部识别是从数字面部图像中识别或以其他方式识别一个人的过程。LFR是一种人脸识别技术，通常涉及生物特征数据的自动采集。专员此前于2019年发表了一份关于在执法环境中使用LFR的意见，认为数据保护法为在公共场所使用LFR设定了“高标准”。该意见以这项工作为基础，侧重于公共空间中LFR的使用，定义为国内环境之外的任何物理空间，无论是公共还是私人所有，都不属于执法部门。该意见明确指出，首先，寻求使用LFR的控制者必须遵守英国通用数据保护条例（“UK GDPR”）和2018年数据保护法案。
在执法方面，ICO于2021年11月29日宣布，其打算对Clearview AI Inc处以1700万英镑以上的罚款，因为该公司涉嫌在不知情的情况下收集大量英国人的图像，违反了英国的数据保护法律。ICO还向该公司发布了一份临时通知，要求其停止进一步处理英国人的个人数据并将其删除。ICO的初步观点是，Clearview AI似乎在多方面未能遵守英国数据保护法，包括未能有合法理由收集信息以及未能满足英国GDPR规定的生物特征数据所需的更高数据保护标准。Clearview AI Inc现在将有机会就涉嫌违规行为作出陈述，预计ICO将做出最终决定。ICO采取的这一行动凸显了确保公司在处理和部署生物特征数据之前遵守英国数据保护法律的重要性。
E.英国金融监管机构誓言推动人工智能在监管中的使用
英国审慎监管局（“PRA”）表示，打算更多地利用人工智能2021/22年商业计划.[124]对AI的关注是审慎监管局目标的一部分，该目标是贯彻落实其对《金融未来报告》（2019年发布）的回应中所述的承诺，以进一步制定其RegTech战略。 The财务报告的未来建议监督员利用数据科学和处理能力的不断发展，包括人工智能和机器学习，实现数据收集和处理的自动化。[125]
F.英国医疗器械未来监管咨询
2021年9月16日，药品和保健品管理局（“MHRA”）发布了一份“英国医疗器械未来监管咨询”，该咨询持续至2021年11月25日（“咨询”).[126]咨询会邀请公众就英国医疗器械监管框架可能发生的变化发表意见，目的是制定未来的医疗器械制度，以实现（i）改善患者和公共安全；（ii）提高监管决策和医疗器械信息的透明度；（iii）与国际最佳实践紧密结合，以及（iv）对医疗器械的更灵活、响应性更强和相称的监管。
咨询提出了软件作为医疗设备（“SaMD”）的拟议变更，包括AI作为医疗设备的变更（“AIaMD”。因此，MHRA的提案包括修改英国医疗器械法规，以保护患者并支持数字健康领域的负责任创新。MHRA在咨询中提出的一些可能的变化包括（除其他外）定义“软件”，澄清或增加通过电子方式销售SaMD的要求，改变SaMD的分类，以确保对这些医疗器械的审查与它们的风险水平更加相称，并与国际惯例更加协调。MHRA打算对英国医疗器械框架的任何修正案将于2023年7月生效。
MHRA还单独发布了广泛的工作计划将软件和人工智能作为医疗设备进行大胆变革，为患者和公众提供高度保护的监管框架，同时确保英国是医疗设备软件负责任创新的发源地。[127]工作计划提出的任何立法变更都将建立在咨询委员会对医疗器械监管进行的更广泛改革的基础上。
________________________
[1]史蒂文·奥弗利（Steven Overly）和梅利莎·海基拉（Melissa Heikkilä），“中国想要统治人工智能。美国和欧洲需要彼此驯服它。”《政治》（Politico）（2021年3月2日），在线阅读https://www.politico.com/news/2021/03/02/china-us-europe-ai-regulation-472120.
[2] 身份证件。
[3] 身份证件。
[4]有关更多详细信息，请参阅我们的第四季度和2020年人工智能和自动化系统年度审查.
[5]白宫，新闻稿（存档）白宫启动国家人工智能倡议办公室（2021年1月12日），在线阅读https://trampwhitehouse.archives.gov/brierings-statements/white-house-launches-national-artificial-intelligence-initiative-office/.
[6] 身份证件。
[7]白宫关于通过科学诚信和基于证据的政策制定恢复政府信任的备忘录（2021年1月27日），在线阅读https://www.whitehouse.gov/briering-room/presidential-actions/2021/01/27/memorandum-on-restoring-trust-in-government-through-scific-integrity-and-evidence-based-policymaking/.
[8]OSTP副主任Jane Lubchenco和副主任Alondra Nelson致所有联邦机构的信（2021年3月29日），可在https://int.nyt.com/data/documenttools/si-task-force-nomination-cover-letter-and-call-for-nominaations-ostp/ecb33203eb5b175b/full.pdf。
[9]白宫关于总统科学技术顾问委员会的行政命令（2021年1月27日），在线阅读https://www.whitehouse.gov/briering-room/presidential-actions/2021/01/27/executive-or-on-presidents-council-of-advisors-on-science-and-technology/.
[10]《财富》（2021年11月10日），“白宫情报局局长丹·赖利（Dan Reilly）表示，美国应该仿效欧洲的监管方法”，可在https://fortune.com/2021/11/10/white-house-a-i-director-regulation网站/.
[11]S.1260，第117届国会（2021）。
[12] 身份证件., §§4201-4207.
[13] 身份证件., §4202.
[14] 身份证件., §4204. 有关NSCAI报告和2020年行政命令的更多详细信息，请参阅我们的第四季度和2020年人工智能和自动化系统年度审查.
[15]白宫，“加入为自动化社会创建权利法案的努力”（2021年11月10日），可在https://www.whitehouse.gov/ostp/news-updates/2021/11/10/join-the-effort-to-create-a-bill-of-rights-for-an-automated-society/.
[16]Dave Nyczepir，“白宫技术政策负责人表示AI权利法案需要‘牙齿’”，FedScoop（2021年11月10日），网址：https://www.fedscoop.com/ai-bill-of-rights-toots网站/.
[17] 身份证件。
[18]科技政策办公室，公共和私营部门使用生物识别技术信息请求通知（2021年10月8日），可在获取 https://www.federalregister.gov/documents/2021/10/08/2021-21975/notice-of-request-for-information-rfi-on-public-and-private-sector-uses-of-biometric-technologies.
[19]美国政府问责局，人工智能：联邦机构和其他实体的责任框架，GAO-21-519SP亮点，网址为https://www.gao.gov/assets/gao-21-519sp-highlights.pdf.
[20]GAO确定的关键监控实践与寻求为基于AI的系统实施治理和合规计划并制定评估系统性能的指标的组织和公司特别相关。GAO报告指出，监控是一个关键工具，原因如下：第一有必要持续分析人工智能模型的性能并记录结果，以确定结果是否符合预期，以及第二如果系统正在扩展或扩展，或者适用的法律、计划目标和操作环境随时间发生变化，则监控是关键。
[21]NIST特别出版物1270草案，识别和管理人工智能偏差的建议（2021年6月），在线阅读https://nvlpubs.nist.gov/nistpubs/SpecialPublications/nist.SP.1270-draft.pdf？_sm_au_=iHVbf0FFbP1SMrKRFcVTvKQkcK8MG。
[22]国家科学技术研究所，收到的关于识别和管理人工智能偏差提案（SP 1270）的意见，网址为https://www.nist.gov/artificial-intelligence/comments-received-proposal-identifying-and-managing-bias-certifical。
[23]H.R.5515，第115届国会（2017-18）。
[24]国家人工智能安全委员会以前的报告，网址为https://www.nscai.gov/previous-reports网站/.
[25]NSCAI，美国国家科学院最终报告（2021年3月1日），在线阅读https://www.nscai.gov/wp-content/uploads/2021/03/Full-Report-Digital-1.pdf.
[26]国防创新部，负责任的人工智能指南：实施国防部人工智能道德原则（2021年11月14日），在线阅读https://www.diu.mil/aresponsible-ai指南.
[27]《保障信息通信技术和服务供应链安全》，美国商务部，《联邦法规》第86卷第4923页（2021年1月19日）（以下简称“暂行最终规则”）。
[28]有关更多信息，请参阅我们的人工智能和自动化系统法律更新（2011年第1季度).
[29]S.1776，第117届国会（2021）。
[30]S.1705，第117届国会（2021）。
[31] 海因里希·波特曼宣布将两党人工智能法案纳入2022财年国防授权法案，参议员罗伯·波特曼办公室（2021年12月15日），网址：https://www.portman.senate.gov/newsroom/press-releases/portman-heinrich-annouse-bipartisan-artificial-intelligence-bills-included.
[32]联邦贸易委员会，商业博客，Elisa Jillson以真实、公平和公平为目标，在您的公司使用人工智能（2021年4月19日），可在获取 https://www.ftc.gov/news-events/blogs/business-blog/2021/04/aiming-true-fairness-equity-your-companys-use-ai.
[33]联邦贸易委员会危机时刻保护消费者隐私，代理主席丽贝卡·凯利·斯劳特（Rebecca Kelly Slaughter）在未来隐私论坛（2021年2月10日）上的讲话，可在获取https://www.ftc.gov/system/files/documents/public_statements/1587283/fpf_opening_remarks_210_.pdf.
[34]联邦贸易委员会使用人工智能和算法（2020年4月8日），可在获取 https://www.ftc.gov/news-events/blogs/business-blog/2020/04/using-artificial-intelligence-algorithms.
[35]联邦贸易委员会，联邦贸易委员会主席Lina M.Khan宣布任命新的机构领导职位（2021年11月19日），可在获取https://www.ftc.gov/news-events/press-releases/2021/11/ftc-chair-lina-m-khan-announces-new-appointments-agency.
[36]联邦贸易委员会，指导使用有关滥用知识产权的强制程序的决议（2021年9月2日），可在获取https://www.law360.com/articles/1422050/attachments/0这些决议由民主党委员以3:2的党派路线投票通过。共和党委员发表了一份反对声明，认为一揽子授权消除了委员会的监督，而没有采取任何措施使调查更加有效。
[37]本·布罗迪，联邦贸易委员会官员警告称，将“被非法数据榨取”算法（2021年7月27日），可在获取https://www.protocol.com/bulletins/ftc-seize-algorithms-ill-get？_sm_au_=iHV5LNM5WjmJt5JpFcVTvKQkcK8MG.
[38]联邦贸易委员会此前曾依据第13（b）条通过禁令救济寻求归入，主要涉及违反消费者保护的行为。然而，最高法院发现，禁令条款只授权联邦贸易委员会寻求法院命令停止非法活动，并没有赋予其要求法院实施金钱制裁的权力。一项类似的法案是在最高法院裁决的那一周提出的，得到了25名州检察长和总统乔·拜登的支持。今年夏天，众议院以接近党派路线的投票方式通过了该法案，但尚未在参议院通过。出于对正当程序和法案10年诉讼时效的担忧，共和党人反对这一举措。另一方面，新法案包括一项为期三年的时效法规和措辞，要求委员会证明被指控违法的公司是故意这样做的。
[39]S._第117届国会（2022-2023）https://www.law360.com/cybersecurity-privacy/articles/1449355/gop-sen-floats-bill-to-restore-ftc-s-restitution-powers？nl_pk=4e5e4fee-ca5f-4d2e-90db-5680f7e17547&utm_source=新闻稿&utm_medium=电子邮件&utm_campion=网络安全-隐私
[40]发明“黑暗模式”一词的博士哈里·布里格努尔（Harry Brignull）已经开发出一种分类法，其中可能包括：技巧问题；潜入购物篮（在网上购物时，在最后一分钟将物品添加到购物篮中，而用户不参与）；罗奇汽车旅馆（服务很容易进入，但很难取消）；隐私过度披露（用户被诱骗分享或公开超出预期的信息）；防止价格比较（网站很难比较其他供应商的价格）；误导；隐性成本；诱饵和开关；确认羞辱（用户被指责做了某事，或者拒绝选项被用来羞辱用户，例如“不，我不想省钱”）；伪装广告；强制连续性（免费试用意外变成付费订阅）；和好友垃圾邮件（用户联系人列表用于发送用户不想要的消息）。 请参阅哈里·布里格努尔，深色图案的类型、深色图案、，可在获取https://www.darkpatterns.org/types-of-dark-pattern。
[41] 将深色图案曝光：联邦贸易委员会研讨会联邦贸易委员会，2021年4月29日，可在获取https://www.ftc.gov/news-events/events-calendar/bringing-ddark-patterns-light-ftc-workshop。
[42]乔恩·希尔，CFPB最新的大技术挂钩可能是20世纪70年代的数据法，《法律360》（2021年11月16日），可在获取https://www.law360.com/technology/articles/1439641/cfpb-s-newest-hook-on-big-tech-may-be-1970s-data-law？nl_pk=0d08c9f5-462a-4ad6-9d20-292663da6d5e&utm_source=新闻稿&utm_medium=电子邮件&utm_campion=技术.
【43】CFPB，CFPB采取行动阻止背景筛选人员进行虚假识别（2021年11月4日），可在获取https://www.consumerfinance.gov/about-us/newsroom/cfpb-takes-action-to-stop-false-identification-by-background-screeners/？_sm_au_=iHVFR9tfrf49TNNMFcVTvKQkcK8MG.
[44]平等就业机会委员会，EEOC启动人工智能和算法公平倡议（2021年10月28日），可在获取https://www.eeoc.gov/newsroom/eeoc-launches-initiative-artifical-intelligence-and-algorithmic-fairrence？_sm_au_=iHV5LNM5WjmJt5JpFcVTvKQkcK8MG.
[45]立方英尺《关于Everabulm，Inc.和Paravision的事宜》，委员会文件编号1923172（2021年1月11日），可在获取 https://www.ftc.gov/emplement/cases-proceedings/1923172/everalbu-minc-matter.
[46]联邦贸易委员会，Rohit Chopra专员声明关于Everabum和Paravision，委员会文件编号1923172（2021年1月8日），可获得的 在 https://www.ftc.gov/system/files/documents/public_statements/1585858/updated_final_chopra_statemment_on_everalbum_for_circulation.pdf.
[47] 参见，例如。， Vance诉亚马逊，2:20-cv-01084-JLR（华盛顿，2021年10月7日）；Vernita Miracle-Pond等人诉Shutterfly Inc.，No.2019-CH-07050，（库克县伊利巡回法庭）；卡彭特诉麦当劳公司。第2021-CH-02014号（伊利诺伊州巡回法庭，2021年5月28日）；里维拉诉谷歌公司。，编号：1:16-cv-02714（N.D.Ill.2021年8月30日）；Pena诉微软公司第2021-CH-02338号（伊利诺伊州巡回法庭，2021年5月12日）；B.H.诉亚马逊公司。第2021-CH-02330号（伊利诺伊州巡回法庭，2021年5月12日），普鲁登诉柠檬水公司。，编号：1:21-cv-07070（S.D.N.Y.2021年8月20日）。
[48]S._，第117届国会（2021）； 另请参见新闻稿，参议员马基、默克利领导同事立法禁止政府使用面部识别和其他生物识别技术（2021年6月15日），可在获取https://www.markey.senate.gov/news/press-releases/senators-markey-merkley-lead-colleagues-on-legislation-to-ban-government-use-of-facial-recognition-other-biometric-technology.
[49]有关更多详细信息，请参阅我们以前的警报：第四季度和2020年人工智能和自动化系统年度审查.
[50]H.B.2031，注册会议（2020-2021）。
[51]有关更多详细信息，请参阅我们的第四季度和2020年人工智能和自动化系统年度审查。
[52]S.1896，第117届国会（2021）； 另请参见新闻稿参议员Markey和众议员Matsui引入立法打击有害算法并创建新的网络透明度制度（2021年5月27日），可在获取 https://www.markey.senate.gov/news/press-releases/senator-markey-rep-matsui-introduce-registration-to-fight-harmful-algorithms-and-create-new-online-transparency-regime网址.
[53]H.R.3723，第117届国会（2021年）。
[54]伊丽莎·汉森众议院批准研究加密和消费者保护的法案，《法律360》（2021年6月23日），可在获取https://www.law360.com/articles/1396110/house-clears-bill-to-study-crypto-and-consumer-protection.
[55]S.2134，第117届国会（2021）；另见新闻稿，美国参议员基尔斯滕·吉利布兰德办公室，新闻稿，吉利布兰推出新的和改进的消费者监督机构，让美国人控制他们的数据（2021年6月17日），可在获取 https://www.gillibrand.senate.gov/news/press/release/gillibrand-introduces-new-and-improved-consumer-watchdog-agecy-to-give-americans-control-over-their-data.
[56]根据拟议立法，“个人数据”被定义为“单独或与其他数据结合使用的电子数据——（A）识别、涉及、描述、能够直接或间接与特定个人、家庭或设备关联或可能合理关联；或（B）可用于确定个人或家庭是否属于受保护类别。”《2021年数据保护法》，第117届国会第2134条第2（16）款（2021年）。
[57] 身份证件., § 2(3) (2021).
[58]同上，§2（11）-（13）（2021）。
[59]H.R.5921（2021），可在获取https://www.congress.gov/bill/117th-congress/house-bill/5921/cosponsors？s=1&r=90&overview=closed; S.B.2024（2021），可在获取https://www.congress.gov/bill/117th-congress/senate-bill/2024/text.
[60]美国参议院国土安全与政府事务委员会，技术领导人支持波特曼的两党Deepfake特遣部队法案，在国土安全部成立特遣部队打击Deepfakes（2021年7月30日），可在获取https://www.hsgac.senate.gov/media/minority-media/tech-leaders-support-portmans-bipartisan-deepfake-task-force-act-to-create-task-force-at-dhs-to-combat-deepfakes.
[61]有关更多详细信息，请参阅我们的第四季度和2020年人工智能和自动化系统年度审查.
[62]S.B.5116，注册会议（2021-22）。
[63]莫妮卡·尼克尔斯堡华盛顿州立法者寻求禁止政府使用歧视性人工智能技术，GeewWire（2021年2月13日），可在获取 https://www.geekwire.com/2021/washington-state-lawmakers-seek-ban-government-using-ai-tech-discriminates网站/.
[64]N.Y.C.，编号1894-2020A（2021年11月11日），可在获取https://legistar.concull.nyc.gov/LegislationDetail.aspx？ID=4344524&GUID=B051915D-A9AC-451E-81F8-6596032FA3F9型.
[65] 请参阅 Thaler诉Hirshfeld，编号120CV903LMBTCB，2021 WL 3934803，第*8页（弗吉尼亚州E.D.，2021年9月2日）（注意到“压倒性的证据表明，国会打算将‘发明人’的定义限制在自然人。”）。
[66]参见，例如。，犹他大学诉Max Planck Gesellschaft案《联邦地区法院判例汇编》第三编第734卷第1315页、第1323页（美联储巡回法庭，2013年）；比奇飞机公司诉EDO公司《联邦地区法院判例汇编》第二辑第990卷第1237、1248页（1993年联邦巡回法庭）。
[67]人工发明家项目雄心勃勃地将DABUS描述为先进的人工智能系统。DABUS是一个“创造性神经系统”，“当一个或多个网络对候选概念发表意见时，被混沌刺激以产生潜在的想法”，“由于任何基于链的概念都会启动一系列记忆，因此可以被视为“有知觉的”(即.，影响链），有时终止于批判性回忆，从而引发了人造分子的浪潮。”Ryan Abbott这个项目背后的人工发明家,可在获取https://artificialinventor.com/dabus/。
[68]瑞安·阿伯特人工发明家项目,可在获取https://artificialinventor.com/frequently-asked-questions/。
[69] Thaler诉Hirshfeld，2021 WL 3934803，第*2页。
[70] 身份证件在*2处。
[71] 身份证件第*8页。
[72]欧洲专利局，欧洲专利局公布了其决定拒绝两项专利申请的理由，这两项申请都将一台机器命名为发明人2020年1月28日，可在获取https://www.epo.org/news-events/news/2020/2020年28.html。
[73]丹尼·卡斯，EPO上诉委员会确认只有人类才能成为发明家《法律360》，2021年12月21日。
[74]托马斯·柯比（Thomas Kirby），英国法院驳回DABUS——人工智能机器不可能是发明家，词汇学，2021年12月14日。
[75]2021年7月28日，萨里大学，世界上第一个授予人工智能发明专利的专利可能会对知识产权法产生重大影响。
[76]吉恩·奎因，DABUS在南非通过手续审查获得第一项专利，IP Watchdog，2021年7月29日，网址：https://www.ipwatched.com/2021/07/29/dabus-gets-first-partent-south-africa-formalities-examination/id=136116/。
[77] 泰勒诉专利专员[2021]FCA 879。
[78] 谷歌有限责任公司诉Oracle Am.，Inc。，编号18-9562021 WL 1240906，（美国，2021年4月5日）。
[79] 身份证件.，第*3页。
[80] 身份证件在*20。
[81]参见身份证件.
[82]比尔·多纳休最高法院对谷歌在甲骨文版权纠纷中的裁决，Law360（2021年4月5日），在线阅读https://www.law360.com/ip/articles/1336521.
[83] 请参阅美国食品和药物管理局。，基于人工智能/机器学习（AI-ML）的软件作为医疗设备（SaMD）行动计划1-2 (2021), https://www.fda.gov/media/145022/download（下载）[以下简称美国食品药物管理局 AI行动计划]; 美国食品和药物管理局。，FDA发布人工智能/机器学习行动计划（2021年1月12日），https://www.fda.gov/news-events/press-announces/fda-releases-artificial-intelligencemachine-learning-action-plan。 请参阅 也美国食品和药物管理局。，基于人工智能/机器学习（AI/ML）的软件作为医疗设备（SaMD）讨论文件和反馈请求修改的拟议监管框架(2019), https://www.fda.gov/media/12535/下载。
[84] FDA AI行动计划,上文注1，第1页。
[85]美国食品和药物管理局。，虚拟公共研讨会——人工智能/机器学习医疗设备的透明度（上次更新时间：2021年11月26日）https://www.fda.gov/medical-devices/workshops-conferences-medical-device/virtual-public-workshop-transparency-artificial-intelligencemachine-learning-enabled-medical-devices。
[86] 身份证件。
[87] 身份证件。
[88] 身份证件。
[89] 身份证件。
[90]美国食品和药物管理局。，人工智能和机器学习（AI/ML）-启用医疗设备（上次更新时间：2021年9月22日），https://www.fda.gov/medical-devices/software-medical-device samd/artificial-intelligence-and-machine-learning-aiml-enabled-medical-devices。
[91] 身份证件。
[92] 身份证件。
[93]正如我们在之前的法律更新中所述，众议院之前于2017年9月通过了《自我驱动法案》（H.R.3388），但其配套法案（《美国通过革命技术促进更安全运输愿景法案》（“AV START”）（S.1885））在参议院陷入僵局。有关更多详细信息，请参阅我们的第四季度和2020年人工智能和自动化系统年度审查.
[94]美国运输部。，新闻稿，美国运输部发布春季监管议程(2021年6月11日），在线阅读https://www.transportation.gov/briering-room/us-department-transportation-releases-spring-regulatory-agenda。
[95]美国运输部。，国家公路交通安全管理局（NHTSA）要求配备高级驾驶员辅助系统和自动驾驶系统的车辆进行碰撞报告，网址为https://www.nhtsa.gov/press-releases/nhtsa-orders-crash-reporting-vehicles-equipped-advanced-driver-assistance-systems
[96] 身份证件。
[97] 身份证件。
[98] 身份证件。
[99] 身份证件。
[100]49 CFR 571，网址：https://www.nhtsa.gov/sites/nhtsa.gov/files/documents/ads_safety_principles_anprm_website_version.pdf
[101] 身份证件。，在6。
[102] 身份证件。，第7-8页。
[103]SF 302，注册会议（2019-2020）。
[104]ARC 5621C，《预期行动通知》，在线阅读https://rules.iowa.gov/Notice/Details/5621C。
[105] 身份证件。
[106]卡莉·佩奇，美国银行必须在36小时内报告重大网络安全事件，（2021年11月19日），在线阅读https://techcrunch.com/2021/11/19/us-banks-report-cybersecurity-convents/？guccounter=1。
[107]“银行组织”是本规则中的一个定义术语，适用于与每个机构相关的稍微不同的实体组合。
[108]86联邦法规66424。
[109] 身份证件第66438页。
[110]86联邦法规16837。
[111]阿尔·巴巴里诺，银行监管者更新指导意见以消除AI中的偏见（2021年10月21日），在线阅读https://www.law360.com/cybersecurity-privacy/articles/1433299/。
[112]欧共体关于欧洲议会和理事会制定人工智能协调规则和修订某些欧盟立法法案（人工智能法案）的条例的提案，COM（2021）206（2021年4月21日）可在获取 https://digital-strategy.ec.europa.eu/en/library/proposal-regulation-european-approach-artific-intelligence。
[113]乌苏拉·冯·德莱恩争取更多的联盟：我的欧洲议程，网址为https://ec.europa.eu/commission/sites/beta-political/files/political-guidelines-next-commission_en.pdf。
[114] Supra公司注39，第1页。
[115]欧洲议会2020年10月20日关于人工智能、机器人技术和相关技术道德方面框架的决议，以及向委员会提出的建议（2020年/2012年（INL））（2020年10月20日），在线阅读https://www.europarl.europa.eu/doceo/document/TA-9-2020-0275_EN.pdf。有关更多详细信息，请参阅我们的“20年第3季度人工智能和自动化系统法律更新“.
[116]欧洲议会数字时代人工智能报告草案（2021年11月2日），网址：https://www.europarl.europa.eu/meetdocs/2014_2019/plmrep/COMMITTEES/AIDA/PR/2021/11-09/1224166EN.pdf
[117] 关于欧洲议会和理事会制定人工智能协调规则的提案的第5/2021号联合意见，网址为https://edpb.europa.eu/system/files/2021-06/edpb-edps_joint_opinion_ai_regulation_en.pdf.
[118]EDPS，新闻稿EDPB和EDPS呼吁禁止在公共无障碍空间使用人工智能自动识别人类特征，以及其他可能导致不公平歧视的人工智能使用（2021年6月21日），在线阅读https://edps.europa.eu/press-publications/press-news/press-releases/2021/edpb-edps-call-ban-use-ai-ai-automated-recognition_en？_sm_au_=iHVWn7njFDrbjJK3FcVTvKQkcK8MG.
[119]英国政府，国家人工智能战略（2021年9月22日），在线阅读https://www.gov.uk/government/publications/national-ai-strategy网站.
[120]英国政府，使英国成为全球人工智能超级大国的新十年计划（2021年9月22日），可在https://www.gov.uk/government/news/new-ten-year-plan-to-make-britain-a-global-ai-superpower网站.
[121]英国政府，自动化决策的道德、透明度和问责制框架（2021年5月13日），在线阅读https://www.gov.uk/government/publications/ethics-transparency-and-accountability-for-for-automated-decisionmaking.
[122]英国政府，英国政府发布了算法透明度的开创性标准（2021年11月29日），在线阅读https://www.gov.uk/government/news/uk-government-publishes-pionering-standard-for-algorithmic-transparency网站–2.
[123]英国政府，信息专员办公室，现场人脸识别技术在公共场所的应用（2021年6月18日），在线阅读https://ico.org.uk/media/for-organisations/documents/2619985/ico-opinion-the-use-of-lfr-in-public-places-20210618.pdf。
[124]英国政府，审慎监管局 2021/22年商业计划（2021年5月24日），在线阅读https://www.bankofengland.co.uk/pruntial-regulation/publication/2021/may/pra-business-plan-2021-22.
[125]英国政府，金融的未来，英格兰银行（2019年6月），网址：https://www.bankofengland.co.uk/-/media/boe/files/report/2019/future-of-finance-report.pdf？la=en&hash=59CEFAEF01C71AA551E7182262E933A699E952FC.
[126]英国政府，英国医疗器械未来监管咨询（2021年9月16日），在线阅读https://www.gov.uk/government/consultations/consultation-on-the-future-regulation-of-medical-devices-in-the-united-kingdom.
[127]英国政府，软件和AI作为医疗设备变更计划（2021年9月16日），在线阅读https://www.gov.uk/government/publications/software-and-ai-as-a-medical-device-change-program.
以下Gibson Dunn律师准备了此客户更新：H.Mark Lyon、Frances Waldmann、Emily Lamm、Tony Bedel、Kevin Kim、Brendan Krimsky、Prachi Mistry、Samantha Abrams-Widdicombe、Leon Freyermuth、Iman Charania和Kanchana Harendran。
吉布森·邓恩（Gibson Dunn）的律师可以帮助您解决有关这些发展的任何问题。请联系Gibson Dunn律师，您通常与之合作，公司的任何成员人工智能和自动化系统集团，或以下作者：
H.马克·里昂–Palo Alto（+1 650-849-5307，[电子邮件保护])
弗朗西斯·沃尔德曼–洛杉矶（+1 213-229-7914，[电子邮件保护])
请随时联系以下练习组成员：
人工智能和自动化系统集团：
H.马克·里昂–主席，Palo Alto（+1 650-849-5307，[电子邮件保护])
J.阿兰·班尼斯特–纽约（+1 212-351-2310，[电子邮件保护])
帕特里克·多丽丝–伦敦（+44（0）20 7071 4276，[电子邮件保护])
凯格辛–慕尼黑（+49 89 189 33 180，[电子邮件保护])
阿里·拉宁–洛杉矶（+1 310-552-8581，[电子邮件保护])
罗布森·李–新加坡（+65 6507 3684，[电子邮件保护])
卡莉·勒罗伊–帕洛阿尔托（+1 650-849-5337，[电子邮件保护])
亚历山大·索斯韦尔–纽约（+1 212-351-3981，[电子邮件保护])
克里斯托弗·蒂穆拉–华盛顿特区（+1 202-887-3690，[电子邮件保护])
埃里克·范德维尔-洛杉矶（+1 213-229-7186，[电子邮件保护])
迈克尔·沃尔特–慕尼黑（+49 89 189 33 180，[电子邮件保护])
©2022 Gibson，Dunn&Crutcher LLP版权所有
律师广告：所附材料仅供参考，不作为法律建议。
