总的来说，生态可持续性旨在保护自然，为子孙后代留下一个值得居住的星球。在大多数情况下，人工智能系统与生态可持续性正好相反。人工智能系统通常依赖于开发社会和生态资源。尽管如此，他们目前经常得到怀疑的好处：毫无疑问，技术最终会解决所有问题。事实上，人工智能具有巨大的社会潜力，但它的使用也会带来危险和有害后果。

AI误入歧途：不负责任的发展

几乎没有关于人工智能系统的能源消耗及其导致的排放的任何信息。这使得制定减少排放的政治解决方案变得困难。众所周知，数据中心以及所有硬件的生产和运营对全球二氧化碳排放量贡献巨大。它们构成了人工智能系统运行所必需的基础设施。使用人工智能系统产生的排放必须加在其基础设施产生的排放上。

在技术术语中，这被称为“推断”阶段。在推理阶段，人工智能系统的每次使用通常消耗相对较少的能量。然而，推理可能会非常频繁地进行。2022年末，脸书人工智能研究人员得出结论科学论文脸书数据中心每天进行数万亿次推理操作。研究显示，2018年初至2019年年中，脸书数据中心专门用于推理的服务器数量增加了2.5倍。在像脸书这样的公司，这一数量的推论来自推荐和排名算法之类的东西，例如，脸书全球近30亿用户每次访问该平台并查看其新闻提要中的内容时都会使用这些算法。

其他典型应用在线平台上的高推理率包括图像分类、图像中的对象识别以及基于大型语言模型的翻译和语音识别服务。科学家得出结论人工智能模型推理阶段产生的排放量可能显著高于开发和培训阶段产生的。这一假设得到了内部来自Facebook的数据，这证实了对于内部系统来说，根据应用程序的不同，推理阶段的资源消耗可能远高于开发和培训期间的资源消耗。

例如，考虑BLOOM模型的培训。培训阶段的能耗相当于约24.7吨二氧化碳当量的排放量。但如果我们将硬件生产和运营能源考虑在内，排放值就会翻倍。因此，在计算人工智能系统产生的排放量时，仅培训作为参考变量是不够的。测量和系统严格的计算必须涵盖其整个生命周期，以提高公司、开发商和研究人员的敏感性，启动有针对性的政治法规。

BLOOM包含1750亿个参数。参数是机器学习模型在训练过程中学习的值，它们构成模型随后产生的结果的基础。参数的数量还决定了必须执行的计算操作的数量，从而决定了消耗的能量。由5400亿个参数组成的人工智能语言模型，例如谷歌于2022年发布的PaLM，可能会超过BLOOM的能耗。在俄克拉荷马州谷歌数据中心进行的PaLM培训中，89%的能源需求来自无碳能源二氧化碳排放量271.43吨吨二氧化碳排放量。这大致相当于一架满载的商用飞机在1.5次穿越美国的飞行中产生的排放量。请注意，这样的过程每天都会发生数千次。

人们只能假设，PaLM这样大的系统的排放值代表着相对显著的改进，因为相关的数据中心致力于可持续性并减少排放。但问题仍然是，为什么更高效的硬件创新和新的训练方法只是为了使模型变得更大，而不是为了提高更小但仍然相当可观的模型的能效。从资源保护的角度来看，这不仅仅是不负责任。如此庞大的模型也使得从培训中使用的数据中发现和删除歧视、厌女和种族主义内容变得更加困难。

据推测，所有主要的在线平台都依赖人工智能的支持来进行内容调节。其中一个原因是，部署人工智能系统比只使用人工调节要便宜。此外，工作是心理挑战：主持人经常接触令人不安的内容在互联网上传播。但人工智能调节系统也依赖于人类决策。版主向系统提供培训数据，因此是首先开发系统的强制性先决条件。

平台工作正在从根本上改变劳动关系。如果短期内不解决就业经济中恶劣的工作条件，他们也可能在传统的就业关系中站稳脚跟，并破坏劳动法方面来之不易的成就。平台工作的监管仍处于初级阶段。但第一批法律已经到位，以帮助工人捍卫他们的利益。

欧盟于2024年春季通过了平台工作指令。欧盟成员国必须在2026年之前实施该协议。该指令旨在使人力资源管理对算法的使用更加透明，确保合格人员监控自动化系统，并保障员工质疑自动化决策的权利。

该指令还旨在更好地规范数字工作平台对算法的使用，并防止在零工经济中出现虚假自营职业。确定他们的就业状态可以让平台工作人员利用他们享有的所有劳动权利。数字平台有义务证明不存在永久雇佣关系。平台工作人员、平台代表或国家主管部门可以在采取行动纠正员工分类错误时援引这一法律义务。

该指令是否真的能有效打击虚假的自营职业还有待观察。批评者担心法律被过分淡化了。平台公司已经尝试影响谈判并削弱了打击虚假自营就业的要求。

人工智能法案：禁止情绪识别

在工作场所使用人工智能系统是欧盟人工智能法案涵盖的法律领域之一。具体人工智能系统的监管严格程度取决于系统对健康、安全和基本权利构成的各自风险。根据第5条，禁止在工作场所使用以下情绪识别系统，因为它们的风险被归类为不可接受的高风险：

• 人工智能系统用于监控员工的表现及其情绪状态，例如，员工在参加会议或执行任务时。这些系统用于分析面部表情、语调和其他生物特征数据，以检测压力、满意度或挫折感等情绪状态。
• 招聘过程中使用的基于人工智能的工具，通过分析应聘者在面试过程中的面部表情、声音调制或肢体语言来评估应聘者的情绪状态或诚意。
• 用于导出工人情绪状态以预测压力或潜在安全风险的工具，除非这些工具是出于医疗或安全原因而专门设计的。
• 心理健康评估工具，从生物特征数据中获取有关情绪状态或精神疾病的信息，前提是这些工具并非专门用于医疗目的。

《人工智能法》还禁止生物特征分类系统根据自然人的生物特征数据对其进行单独分类，以确定他们是否属于工会。

《人工智能法案》规定的禁令并不涵盖所有可能的情感识别人工智能应用。禁止在工作场所和教育中使用情绪识别系统，但不允许在执法或移民等其他高风险领域使用。

如果现有的应用程序被视为被禁止，则必须在《人工智能法案》通过后的六个月内重新设计或从欧洲市场撤回。A类罚款总额的7%可能会因每次违反此截止日期而被强制执行

除了禁止的做法外，《人工智能法》还规定了人工智能系统的使用与安全、健康和基本权利风险增加相关的领域。由于工作场所是一个高风险区域，某些人工智能应用程序必须遵守更严格的规定：

• 用于招聘自然人的人工智能系统，特别是用于发布有针对性的招聘广告、分析和筛选申请以及评估申请人。
• 旨在接管工作决策的人工智能系统：关于工作条件、晋升或解雇的决策；基于个人行为或个人特征分配工作任务的AI系统；监测和评估人们在雇佣关系中的表现和行为的人工智能系统。

《人工智能法》还规定，为了透明起见，雇主必须通知其雇员及其代表，如果他们使用对工作或雇佣关系有影响的高风险人工智能系统，例如在雇用、晋升或解雇雇员时。在提供此类信息时，雇主必须尽可能遵守工会协议和国家立法规定的规则和程序。然而，雇主没有义务咨询雇员。工会和员工代表在决定引进人工智能系统时通常没有任何共同决定权。

如果雇主使用高风险人工智能系统，则必须遵守进一步的义务：

• 他们必须在整个生命周期中控制自己的人工智能系统。
• 他们只能使用操作手册中预见的人工智能系统，并遵循其中规定的控制措施。
• 他们必须确保输入的数据符合系统目的，并存储自动生成的系统日志。
• 在引入该系统之前，他们必须检查使用和操作人工智能系统对基本权利的影响程度，特别是相关员工的基本权利。

当前的法律形势充满了歧义和漏洞。例如，员工只需了解引入高风险人工智能系统的情况。如果人工智能系统对基本权利构成重大风险，则被视为高风险系统。这种措辞留有很大的解释空间。《人工智能法》第3条对“重大风险”的定义不是很具体，因为在引入该系统之前很难预见可能出现的情况。

AI责任指令：谁为损害赔偿？

《人工智能法案》并没有解决实施人工智能时员工可能遇到的所有问题。例如，它没有具体说明如果人工智能系统做出错误或歧视性的决定，将实施何种制裁。它也没有阐明如果人工智能系统造成损害，谁应该承担责任。

为了回答这些问题，欧盟正在起草人工智能责任指令草案，以规范因使用人工智能系统而产生的损害赔偿要求。在其当前版本中，如果责任已经由合同规定，则AI责任指令不适用。欧盟委员会于2022年9月公布了其法律提案。

根据该AI责任指令草案，如果雇主使用或操作的AI系统产生导致损坏的错误，雇主将承担责任。雇主必须披露根据《AI法案》必须制作的所有记录和文件，以证明他们完全遵守了自己的义务。

AI责任指令生效需要一段时间。与此同时，可能会做出重大改变。

阅读更多关于我们的政策和宣传工作在工作场所的ADM.

算法歧视的原因是什么？

算法系统既不中立也不客观。它们再现了社会上已经存在的歧视模式。这个数据用于自动决策系统中的“机器学习”过程反映了社会状况，某些群体的代表性可能过高或过低。在这种情况下，某一特定群体的数据或多或少会超过受决策影响的总人数。

系统设计有可能受到发展决策系统。在开发等早期阶段，系统是由开发人员各自的假设、信念、观点和偏见形成的。这可能会影响系统的输出，即自动决策。这些系统还可以在应用例如，当面部识别系统用于识别人群中的黑人时。

如果一个系统的决定影响了很多人，那么同样多的人也可能受到歧视性决定的影响。在大多数情况下，歧视的原因可以在系统属性中找到。这个特别与算法识别相关的问题称为缩放效应现有的歧视模式可以通过所谓的反馈循环例如，使用来自过去的数据是基于假设未来与过去不会不同。在预测性警务的算法系统中，这些数据可以导致在某些街区比其他街区进行更多的巡逻。然而，加强监视也增加了警方在各自地区发现更多犯罪的可能性。系统的这种预测是自我实现的，就像自我实现的预言一样。当系统在较长时间内使用时，它们会得到加强，并根据自己以前的预测进行预测。

当算法用于主要权力不平等如果存在，做出不公正决定和歧视的风险尤其高&无论是申请人与公司、雇员与雇主、嫌疑人与警察、难民与边境管制当局、福利受益人与公共当局、学生与教师、个人用户与社交媒体平台之间的权力失衡。在这样的星座中，有一方取决于另一方的决定。如果更强大的一方自动做出决定，那么受影响的人通常不会意识到这一点。他们任由这些决定摆布，由于权力失衡，他们很难为自己辩护。

算法歧视案例研究：儿童福利、就业、风险评分、刑事起诉

即使是各州也使用可以歧视人民的算法系统。2019年，荷兰税务机关使用自学习算法创建风险概况以检测儿童福利欺诈。仅仅基于系统风险指标的怀疑就足以让当局惩罚欺诈家庭。数以万计的家庭——通常是低收入家庭或具有双重国籍的“少数民族”成员——不得不偿还多年来收到的儿童福利补助金。这导致他们负债。这些家庭中的大多数甚至变得贫困。因此，一千多名儿童不得不被寄养。荷兰数据保护局后来得出结论，该系统对数据的处理具有歧视性。

在工作场所可以从招聘广告开始。研究AlgorithmWatch的研究证明，性别刻板印象决定了脸书如何展示招聘广告：卡车司机的广告更频繁地向男性展示，保育员的广告更经常地向女性展示。算法还对简历进行排序和选择，或向员工发出指示。当算法成为“老板”时，有关晋升或裁员的决定可能变得可疑。普遍缺乏透明度是歧视性决定的滋生地。

德国舒法银行等信贷机构提供有关人们“信誉”的信息。他们计算风险评分银行和类似公司用来决定是向某人发放贷款还是与某人签订合同。这些决定可能会对人们产生巨大影响，例如，如果他们被无理剥夺了贷款或保险的机会。然而，没有人知道这些风险分数是如何计算的，也没有人知道它们是否是自动化的。这有很大的歧视潜力，也存在法律问题。欧洲数据保护法规定，对人们具有法律后果的决策可能不会完全自动化。欧洲法院最近对舒法不利因为这个原因。

在刑事起诉警方和法院使用算法系统计算罪犯再次犯罪的概率。为此目的输入算法系统的数据通常只能提供对现实的扭曲表示。例如，如果罪犯与警方的一般接触次数被用作再次犯罪可能性的指标（从某种意义上说：罪犯与警方接触越多，再次犯罪的可能性就越大），这可能会导致对黑人的歧视：一些警察实行“种族貌相”并且比白人更频繁地检查黑人。如果黑人在没有正当理由的情况下经常被阻止，这将增加他们与警方的联系次数。累犯分数是罪犯获释后实施限制的依据。如果黑人因“种族貌相”而得分更高，并且这一得分导致警方或法院对他们的限制更高，那么他们就是歧视的受害者。

德国歧视法：《一般平等待遇法》

《一般平等待遇法》于2006年在德国生效。该法旨在“防止或消除基于种族或族裔血统、性别、宗教或信仰、残疾、年龄或性别身份的歧视。”迄今为止，该法仅对雇主、房东、货物和服务提供者等私人行为者的歧视进行规管。AGG执行自2000年以来发布的四项欧洲反歧视指令。

公共机构和教育机构目前仍然不受法律约束。到目前为止，柏林是唯一一个通过额外州反歧视法的联邦州，该法于2020年生效。它禁止公共机构的歧视，旨在加强受影响者的权利。

一般来说，AGG旨在实现个人保护自己免受歧视性决定和由此产生的负面后果。然而，该定律没有考虑缩放效应，即算法系统的决策影响许多人。这进一步扩大了AGG对合法代表数人的协会缺乏集体行动权所产生的法律差距。受自动决策影响的个人很难识别。如果他们怀疑存在歧视，他们必须提供证据，如果系统的使用和功能未知，这是不可能的。这一结论是由联邦反歧视局2023年8月发布的法律意见：“ADM系统的黑盒性质使受影响者实际上不可能追查歧视的原因，根据现行形式的AGG减轻举证责任的法律措施不足以克服这些障碍。”

因此，在算法歧视的情况下，现有的反歧视保护是不够的。除了缩放效应和反馈回路外，AGG还缺乏针对歧视的保护，因为它没有考虑所谓的代理变量。根据AGG，某些个人特征受到保护，免受歧视（例如出身、语言、社会地位、生活方式、宗教、意识形态或政治信仰）。然而，自动决策系统可以使用相关特征通过代理进行决策。例如，管理应用程序的系统可能不会因为人的年龄而拒绝他们，因为年龄是AGG保护的特征。尽管如此，该系统可以使用以前工作经验的年限作为代理变量，以识别老年人并将他们排除在外。由于法律中存在此类保护漏洞，AlgorithmWatch等组织呼吁AGG应包括协会诉讼权并为受影响者引入审计程序，以对自动决策提出上诉。

在我概述这些问题之前，重要的是要承认：必须允许平台与更广泛的社区共享有缺陷的“测试版”，以便进行批评和迭代。即使提议的解决方案不完善，平台的透明度和合作也值得欢迎。但我担心的是，Meta的新产品存在的实质性问题表明，对手头的问题的参与度很低，而且很少考虑本可以用于Meta和整个社会的专业知识。Meta可以快速做出明确而简单的改进。但我不相信即使是强烈的批评也会带来改善——当然不会在下周大选之前。这感觉像是公关上的分心，而不是真正的帮助。考虑到Meta也计划在今年美国大选前关闭其Crowdtangle监控工具，这一点尤其令人担忧尽管研究人员和民间社会强烈呼吁。由于此工具对于监控在线风险非常重要，因此它不是真正参与的良好迹象。

为什么不好？

要解释这些问题，首先需要简短的社交媒体监控101。有两种主要方法。首先是搜索特定的关键字。第二是遵循特定的账户。让我们先考虑关键字。例如，您可以要求Crowdtangle提供公共帖子的提要，这些帖子使用诸如“EU elections”、“European Parliament”、德语中的“Europawahlen”等词或短语。这些词可能太具体了，因此您也可以搜索诸如“vote”、但你可能会收到很多与其他选举、有投票权的游戏秀等无关的帖子。这始终是一种权衡。你的仪表板可能会收到一些无关的内容，但不应该被这些内容淹没。

Meta的Instagram关键字仪表盘充斥着无关的材料。例如，奥地利为德国展示了大量内容，卢森堡也是如此。这是因为关键字列表所有这些语言都使用相同的德语术语。德语列表中也包含立陶宛语单词。其他语言的使用者可能会发现其他错误。爱尔兰搜索中充满了关于每一个选举。爱尔兰本身几乎没有出现。举一个例子，许多关键词都是很短且通用的单词，比如“ID”和“MP”，这是社交媒体监控中非常糟糕的做法，这可能就是为什么关于埃塞俄比亚和南非的帖子出现在瑞典仪表板上的原因。对于脸书搜索，应用了国家特定的位置过滤器，无法删除。尚不清楚Instagram为什么根本没有这个过滤器，也不清楚Facebook为什么不能删除它。此过滤器意味着内容更特定于给定国家，这很有帮助。但是位置过滤器删除了许多潜在的相关内容，如Meta自己的Crowdtangle文档注释根据对奥地利内容的快速检查，我估计至少有50%的相关材料被删掉了。这也提出了一个非常重要的问题，即是否会发现来自国外的干涉——这是选举监督的关键问题之一。

本来可以做什么？

毫无疑问，这些问题本可以很容易地得到解决，这大大降低了董事会的效用。应该承认，Meta的关键字列表有数百个术语，所以显然他们花了很多时间来编译它们。但许多选举监督组织都有自己的关键词列表，或者可以被要求利用当地的专业知识来制作。相反，与这些合作伙伴合作会减少Meta的工作，也会产生更好的结果。Meta还可以在黑板上添加简单的关键词过滤选项，让用户自己删掉不相关的材料，专注于他们感兴趣的话题。这种过滤和聚焦的能力对于正确的监控和分析至关重要——否则你基本上依赖运气。目前尚不清楚为什么没有采取这种做法。

“世界上最富有的公司之一，拥有独特的Crowdtangle工具技术，生产出的产品质量低于人员不足的事实检查组织所能接受的质量。”

对于第二种通用监控方法（遵循特定账户），Meta有显示欧洲议会候选人、欧洲政党和机构内容的仪表盘。您可以按最新、最“约定”（喜欢、共享等）或其他选项对帖子进行排序。但再次强调，这需要很大的运气。除非高层职位碰巧也是虚假信息，否则这无助于保护选举诚信。同样，一个简单的关键词过滤器意味着分析师可以挖掘账户实际所说的内容，专注于他们专业知识的主题，并找到实际的虚假信息叙述。但以目前的形式，我们只会得到“哪些政党参与度最高”的新闻报道，而不是针对选举干预的辩护。

再回到更广泛的问题上来：这些错误比一些错误或bug更深入。世界上最富有的公司之一拥有独特的Crowdtangle工具技术，生产出的产品质量低于人员不足的事实审查组织所能接受的质量。这些仪表盘本可以作为概念验证共享，以寻求（急需的）改进。但是，在选举前一周，Meta提出了这些建议，作为对选举廉正严重关切的回应。这些选举并不令人惊讶。Meta有时间进行准备，之前曾与欧洲合作伙伴合作。这些问题的严重程度让你怀疑他们是否真的希望使用这个工具，并进行相应的检查，或者这只是一次公关活动。民间社会、研究人员和其他人随时准备合作，包括与我们所知道的公司内部那些善良、敬业的人合作，帮助解决平台带来的问题。如果这是我们可以从平台期望的参与标准，我们就无法很好地完成这项工作。

阅读更多关于我们的政策和宣传工作上数字服务法案.

以前的审计表明反女权主义和种族主义者这些工具的偏见。但是，正如我们之前报道的那样，此类审计仍然是零碎的，通常只针对一项服务，而且通常只使用英语。审核这些系统很困难。这需要花钱。更重要的是，许多公司不提供应用程序编程接口或API，后者允许进行自动化测试。最后，由于他们的输出很大程度上是随机的，审计师需要大量的图像样本才能得出结论。

我们对8700张图片进行了大规模实验，探索三个图片生成器如何描述政治家。我们的目标不是进行完美的审计，这是不可能的，也不是再次强调这些系统中的偏见。相反，我们想展示这些工具如何在现实生活中发挥作用，并让每个人，最重要的是政治家自己，看到结果。

图像生成器仍然非常有限，至少在正常使用中是如此，大多数都在努力纠正其最严重的偏见。但出现了非常棘手的问题。特别是，绕过偏见的方式对用户来说是隐藏的。一些偏见可能仍然存在。

我们用英语和德语创建了四个关于政客的无害、中性提示（例如，“X向人群发表演讲”）。然后，我们在三个广泛使用的图像生成器中测试了德国主要民主党派即将到来的欧洲选举中每个候选人的每个提示：MidJourney、Stable Diffusion和DALL·E。这种方法允许对不同程度臭名昭著的公众人物进行真实的审计。这些人活跃在公共领域，因此很可能成为自动生成图片的合法主体。

在极少数情况下，生成的图像可能会给人留下显示真人的印象，我们添加了一个较大的水印。如果您注意到我们遗漏了一个，请通过电子邮件告诉我们kayser-bril@algorithmwatch.org。

即时解释

生成器经常混淆名称和概念。在英语中，如果提示中包含候选人的名字，同时也指代一个物体或一种动物，就会产生奇怪的图像。拥有“鹅”, “罗莎、“和”点燃“在提示符中，甚至在德语中，有时会出现鹅、玫瑰和火种的图像。(“大麦另一方面，“并没有产生大麦的图像。）

提示被以意想不到的方式解释可能会导致滑稽的结果，但它有更深层的含义。图像生成器具有阻止某些提示返回图像的调节策略。例如，MidJourney不会为包含“王牌”，尽管许多人都有这个名字。其他提示也被工具拒绝，没有任何理由。总共有40张图片无法生成，几乎所有图片都是用德语提示的。究竟是什么导致了这一结果仍然是个谜。

刻板印象

这三个图像生成器确实对30多岁的白人进行了描述。然而，浏览样本发现，女性政治家被系统地描述为年轻、白人和瘦子。男性政客通常被描述为50多岁，下巴大，留着胡子。达尔·E似乎比其他两个人产生了更多的刻板印象。

我们没有对这种偏见进行定量分析，因为评估年龄和性别，更不用说种族了，不是一件容易的事。使用自动化工具完成任务只会使问题更加复杂。我们认为，让人们浏览足够大的自动生成图像样本，将有助于他们理解这些系统产生刻板印象的方式。

我们样本中的一些图像暗示了根深蒂固的偏见。许多提示被解释为代表美国政治家，这可以从国旗或风景中推断出来。但是，仅从名字来看，这些工具就为一些人指定了国籍。我们发现土耳其,亚美尼亚语、和泰国人例如，标志。

再次仅以姓名为基础，这些工具系统地代表了戴头巾的一些女性。其他人似乎更容易描绘老年人，甚至历史事件。在一个滑稽的例子中，一个包含俄语发音名称的提示符导致MidJourney输出列宁的照片（这是测试期间的输出，但我们选择将其集成到我们的数据集，因为它具有示范价值）。也许最令人不安的是，这些工具将一些名字与愤怒的人以及可能处于暴力边缘的人的描述联系起来，这可能被解释为反穆斯林偏见的证据。类似的发现是报道早在2021年，在大型语言模型中。

伪解决方案

我们的研究表明，自两年前推出以来，图像生成器供应商已经采取了一些措施来增加其输出的多样性。研究人员建立在23年年中，DALL·E无法创作出一位深色皮肤医生与浅肤色儿童一起工作的照片。几个月后，这是可能的.

实现这种多样性的一种方法可能是立即重写，正如我们之前报道的那样当使用DALL·E的API时，程序员可以看到这是如何做到的。提示符“Hannah Neumann hält eine Rede vor einer Menschenmenge”（汉娜·诺伊曼在人群面前发表演讲）自动用英语改写为“一位金发女政治家在人群面前演讲”。

使用常规接口时，此行为不可见。

该过程如何工作尚不清楚，但由OpenAI开发的DALL·E很可能使用ChatGPT等大型语言模型来执行任务。即使在与政治无关的提示中，我们样本中的一些候选人也被正确识别为政治家。例如，“Alexandra Geese正在与员工共进晚餐”被改写为“一位有影响力的欧洲女政治家正在与员工一起共进晚餐。”这表明DALL·E从未指明的在线来源获取有关提示符的信息。

这个过程用于使输出多样化。关于Martin Häusling的同一个7字提示变成了目录：“一位穿着商务休闲装的中年白人男性坐在一张宽敞、布置得当的餐桌旁。他正全神贯注地与一群不同的人进行着生动的对话，其中可能包括他的团队成员。有一位中东女性、一位西班牙裔男性、一位黑人女性和一位南亚男性。他们都围坐在桌子旁，一边吃饭一边讨论。气氛欢快而温暖，反映了积极的办公室文化。”

其他图像生成器可能会使用类似的技巧来使输出多样化。

政客们松了一口气——在某种程度上

我们向几个候选人展示了我们生成的图片。所有人都松了一口气，因为这些工具无法输出真实的深水假货。Svenja Hahn（Renew）开玩笑地告诉我们：“我不得不问自己有多少Svenja Hahn。”。Sergey Lagodinsky（Greens/EFA）表示，在竞选期间，大型图像生成器不会太容易生成深度赝品，这是件好事。Alexandra Geese（Greens/EFA）认为自己“很幸运”，有一个误导图像生成器的名字。她说，她被描绘成一只鹅，这表明这些系统更像是“人工愚蠢，而非人工智能”。她补充道，这是一个积极的发展，因为这使得产生虚假信息变得更加困难。

但这只是问题的一小部分。“我们应该停止忽视这些系统的‘幻觉’，”Geese补充道。她说，这些制造者有可能制造谎言，他们背后的公司高管应该承担责任。对于Carola Rackete（GUE/NGL Linke的最佳候选人）来说，这些图像是否真实并不重要。她说：“图像生成器不应该在未经同意的情况下输出一个人的图像。”。

哈恩（Hahn）、格斯（Geese）和拉科特（Rackete）怀疑图像生成器所宣布的当前保障措施和自律措施是否会有很大用处。哈恩欢迎AI选举协议一系列大型科技公司在2月份发布了一系列目标，但对其能否实现表示怀疑。Geese的话更有力。她说：“自我监管从未真正有效。”。拉科特呼吁采取具有约束力的措施，并强调，如果这些公司决定不执行协议，他们将不会面临任何制裁。

议会控制

监督欧洲委员会工作的欧洲议会有权审查欧洲法律是如何实施的。因此，下一届立法机构的成员必须确保《AI法案》以及其他文本得到实施。

斯文贾·哈恩并不过分乐观。她指了指议会问题她在4月初发来。她询问欧洲人工智能办公室（欧盟委员会内的一个新政府）将如何配备人员，以及议会是否会听取最高职位的候选人的意见。六周后，她仍在等待答案。

Alexandra Geese坚持认为，AI办公室应配备足够且称职的员工。她说：“国家当局仍然没有所需的资源，应该得到支持。”。卡罗拉·拉科特补充说，国家当局可能会使即使是最好的立法也毫无意义。她说：“这就是为什么监测（他们）很重要。”。

然而，这三位候选人可能会成为下一届议会的议员，他们并不打算袖手旁观。Svenja Hahn表示，如果再次当选，她“在执行《人工智能法案》时不会停下来对抗委员会”

需要更多研究

我们的实验对于执行审计所需的方法学仪器来说只是一个小小的贡献，而审计可以让图像生成器承担责任。然而，我们认为，至少在《AI法案》中提到的监管机构生效之前，这些小步骤是必要的。

与此同时，我们很高兴与希望测试新假设的研究人员分享我们的数据。只需给我们发一封电子邮件。

MidJourney和OpenAI没有回答我们的问题。稳定AI也没有，但他们的沟通顾问、保护区法律顾问凯蒂·奥布莱恩（Katie O'Brien）表示，他们实施了“一些缓解措施”。这些仍然是个谜。