德国公民社会在影响数字化进程方面有很大的改进潜力。考虑到这一跨部门问题对我们未来的社会重要性,致力于数字权利的民间社会组织的影响力远没有应有的那么大。与WWF、绿色和平组织、NABU或BUND等组织合作的环境和生态运动是民间社会成就的典范。但是,这些组织中的每一个都有可支配的财政资源,这可能超过德国所有促进数字权利的政治倡议的总预算。
这就是为什么应该支持数字权利组织,使其能够在更大范围内采取行动,扩大其政治和社会影响力。只有提高公众意识,这些组织才能为自己建立可持续的财务结构。这种支持的最大受益者将是民主本身;只有民间社会保持强大,其代表值得信赖,才能保持社会凝聚力、包容性辩论以及我们为公众利益采取行动的能力。
AlgorithmWatch与Stiftung Mercator合作,找到了一个新的合作伙伴来追求共同的目标。墨卡托基金会将支持我们的政策和宣传工作,从而帮助我们建立和巩固一个可持续的组织。
人工智能和自动化
基于人工智能的自动化决策系统(ADMS)影响着我们社会的运作方式。它们已经对我们的日常生活产生了巨大的影响,并且变得越来越普遍。在脸书、YouTube、TikTok和Instagram上,算法隐晦地决定了哪些内容被显示或屏蔽。其他ADMS系统决定谁可以获得贷款或从国家支持中受益,或者应该在哪些社区动员警察部队。这有助于将权力集中在开发这些系统的少数组织和国家行动者手中。如果这些行动者不负责任,不履行对公众的责任,社会平衡将继续处于危险之中。
通过生物识别或语音识别等技术,算法系统越来越多地成为我们社会基础设施的重要组成部分,这可能会使它们的能力变得更加困难。由实施这些算法的私营公司开发和控制的基础数据、模型和技术是一种杠杆手段。民主公众越来越依赖私人创造的基础设施,这些基础设施削弱甚至危及社会主权和人民的个人自治。这些制度通常会产生超出民主控制范围的负面社会影响,如对劳工权利的限制(例如优步、Lieferando或亚马逊)、中产阶级化(受AirBnB影响的现象)或对公共服务的技术供应商锁定(例如IBM、微软、Palantir)。
然而,基于人工智能的系统的发展也提供了一个机会,可以更有效地承认和打击社会不公正、性别歧视、种族主义和其他形式的歧视。如果部署得当,算法系统可以促进公共服务的获取并提高其质量,扩大信息获取,为人们和社会群体创造平等机会。这就是AlgorithmWatch所追求的。
为共同利益促进自治和基本权利
算法系统的应用必须确保这些系统增加社会自治和基本权利,以造福于共同利益。我们必须建立适当的框架和治理,确保对算法系统的民主控制。AlgorithmWatch以以下方式应用此综合治理概念:
- 我们通过提供信息和解释来加强处理ADMS的个人自主性。我们通过提供有关可用法律补救措施的建议来帮助受ADMS影响的人员和各方。
- 我们促进透明度,并积极参与围绕ADMS展开的基于事实的社会辩论。
- 我们开发测试工具来评估ADMS是否违反了基本民主原则。
- 我们为公共行政和组织制定具体建议,并展示如何负责任地应用这些系统。
- 我们为国家、欧洲和国际立法机构提出了详细的建议,说明必须采取什么措施来规范这些制度。
通过将我们的理想付诸行动,我们提高了算法系统的社会价值,并为一个更具包容性和公平性的社会做出了贡献。