该法案禁止“不可接受”的人工智能使用,并概述了欧盟市场对高风险人工智能的技术、监督和问责要求。它引入了基本保障措施,如强制性权利评估、高风险人工智能应用的欧盟范围数据库、受影响者的解释权以及强大人工智能系统的透明度措施。
与此同时,该法案未能有效禁止所有人工智能监控实践比如自动面部识别。具体而言,《人工智能法案》对实时和追溯面部识别的使用限制很小,不适用于私营公司或行政当局。由于之前的一项限制——此类技术只能用于处理严重的跨境犯罪——已从最终文本中删除,现在模糊提及刑事犯罪的“威胁”就足以证明在公共场所使用追溯面部识别的合理性。
然而,该法案允许成员国在国家一级采用更严格的规则。今天,AlgorithmWatch与16个其他组织一起公开信呼吁德国政府利用这一回旋余地,毫无例外地禁止生物特征大规模监测。
"在其联盟协议中,德国政府明确表示,它希望排除公共场所的生物特征识别用于监视目的。我们期望联盟政党利用《AI法案》允许的自由裁量权,通过一项全面的国家禁令,在公共场所不留大规模监视的空间,并向其他欧盟成员国发出明确的信号."
Pia Sombetzki,AlgorithmWatch政策与宣传经理
但即使成员国限制基于人工智能的生物特征监测,国家安全、执法和移民领域的后门依然存在国家安全的一般豁免将允许成员国对其认为与“国家安全”相关的任何活动免于遵守规则。此外,高风险人工智能系统条例中规定的许多规则不一定适用于警察和移民当局使用人工智能。例如,执法和移民机构将免除对高风险应用程序的公开透明义务,这将使公众和监督组织无法了解这些机构使用的是什么样的系统,尽管在这一领域滥用和滥用的风险很高。
“在执法和移民等领域,权力失衡程度很高,决策可能事关生死,公众监督是民主控制的重要机制。我们对欧盟选择保密而非透明深表遗憾。”
AlgorithmWatch政策与宣传经理Nikolett Azodi