算法监视是一个总部位于柏林和苏黎世的人权组织。我们为一个算法和人工智能(AI)不会削弱正义、民主和可持续性,但会加强它们的世界而战。

博客

2024年5月24日

#欧盟 #公共部门

活动:ADM和移动中的人

无AI边界

在过去十年中,地中海地区有2.9万人在试图加入欧盟的过程中死亡。你可能会认为,欧盟希望这场悲剧停止,而欧洲各地的科学家都在积极努力,利用最新技术实现这一目标。情况恰恰相反:在所谓的人工智能的帮助下,用纳税人的钱建造了高墙。

图像依据Pauke工作室用于AlgorithmWatch

算法管理:公共部门的自动化决策

自动化管理流程保证了效率。然而,整个欧洲的一些例子表明,这些程序往往使弱势群体处于不利地位。我们将解释为什么在公共管理领域使用自动化系统会特别困难,以及如何在早期检测风险。

意大利引入了完全自动化的公开招标

由意大利兄弟会(Brothers of Italy)领导的新法西斯政府通过了一项法律,鼓励公共机构完全自动化采购,从需求定义到中标选择。由于此类系统尚未实施,其后果尚不确定,但小社区肯定会失去权力,不透明将占主导地位。

意大利下议院由康特·迪·卡沃在维基媒体公共空间发表。

西班牙囚犯因担心《人工智能法案》而无法自动监控

西班牙加泰罗尼亚地区政府批准使用基于人工智能的软件来监控囚犯并解释他们的行为。该系统的部分资金由欧盟提供,将在巴塞罗那南部城市塔拉戈纳附近的Mas d'Enric监狱实施,并扩展到其他地区监狱。最终,情况并非如此。

2024年3月19日

#工作

加入游乐设施一侧

你为Lieferando骑行,他们的应用程序让你对旅行、工资和奖金的决定一无所知?你想要更多的透明度、更好的工作条件和更多的钱吗?那就参加我们的调查吧!

AlgorithmWatch关于降低在线平台选举风险的建议

尽管人们希望《数字服务法案》能够在即将到来的选举中防范在线风险,但由于实施过程中的延误和问题,这种可能性似乎越来越小。欧盟委员会已就如何降低选举风险征求意见,AlgorithmWatch已作出回应。

justgrimes的“投票”是根据CC by-SA 2.0授权的。

奥地利的社会保障投资超过5000万欧元用于人工智能——仅仅用于记账?

管理奥地利医疗保险系统技术基础设施的公司通过了AI服务的大规模招标。尽管该公司的业绩记录要求谨慎行事,但该计划仍处于保密状态。

IT-SV办公室所在建筑的视图。CC-BY-SA公司维恩皮克塞拉特

DSA日和平台风险

收到投诉?想要数据?数字服务协调员会支持你,还是会支持?

《数字服务法案》(DSA)是欧盟针对在线平台和搜索引擎风险的新规定。它自2023年起生效,但2024年2月17日标志着“DSA日”,在这一天,许多最具影响力的规定开始生效。

出版物

阅读我们与研究人员和民间社会专家网络合作撰写的关于算法决策的影响和道德问题的综合报告、分析和工作论文。查看我们的出版物

确保利益相关者参与的合法性:“5 Es”框架

新研究:微软Bing聊天研究

AI Chatbot制造关于选举的错误信息

人工智能与可持续发展

SustAIn杂志#3-对人工智能的不同看法:我们决定人工智能必须为我们做什么

新闻故事

自动化决策如何影响我们的日常生活?应用的系统在哪里?当出现问题时会发生什么?阅读我们对ADM系统当前使用及其后果的新闻调查。阅读我们的故事

活动:ADM和移动中的人

欧洲自动化要塞:没有人权的容身之地

故事主角的插图。上图:Camille Lextray,Jerzy Afanasjew。底部:Anastasia Dedyukhina、Miriam Al-Adib、Soizic Pénicaud。

黑暗中的战斗:欧洲人如何反击流氓AI

如何避免:我们未能用ChatGPT分析人工智能的公共话语

位置

阅读我们对当前有关自动化决策的政治和监管发展的回应和专家分析。阅读我们的立场

立场

如果联合国想帮助人类,就不应该被AI炒作

欧盟AI法案未能为人权设定黄金标准

新闻稿

欧盟议会就AI法案进行投票;成员国必须堵住监视漏洞

博客

我们团队即将举办的活动、活动和更新–您可以在这里获得有关AlgorithmWatch的新闻。访问我们的博客

欧盟AI法案未能为人权设定黄金标准

尚未实现:就业经济中的劳工权利

代表我们自己

AlgorithmWatch股东变更

项目

我们的研究项目具体研究了某些部门的自动化决策,从可持续性、新冠肺炎疫情、人力资源到社交媒体平台和公众话语。你也可以参与进来!参与并做出贡献,例如捐赠数据!了解有关我们项目的更多信息

新的研究

ChatGPT和Co:AI驱动的搜索引擎是否对民主选举构成威胁?

移动中的自动化

新项目:系统性风险审计算法