门口的机器人：加拿大移民和难民系统自动决策的人权分析

上下文中的法律，2021年

下载下载PDF查看PDFV形_右

RSC工作包2023 44 V2（002），2023

在难民安置中使用人工智能（AI）可以快速决定大量的安置案例，降低安置成本，促进难民融合。然而，在重新安置的背景下扩大人工智能的使用可能不可避免地造成严重的人权问题，并干扰非歧视原则、有效补救权以及隐私权和数据保护权。尽管学术界越来越关注人工智能在庇护决策过程和移民管理中的各种使用所产生的影响，但关于在重新安置过程中使用人工智能，以及这种使用是否侵犯难民的基本权利，法律文献中仍存在空白。本研究旨在通过研究在难民重新安置过程中人工智能的现有和潜在使用及其影响，包括使用人工智能对等待重新安置的个人或重新安置的人的人权的益处和风险，来填补这一空白。

下载下载PDF查看PDFV形_右

《剑桥国际法杂志》，2019年

迁移管理新技术的实验正在增加。从大数据对地中海人口流动的预测，到加拿大在移民和难民申请中使用自动决策，再到部署在欧洲边境的人工智能测谎仪，各国都热衷于探索新技术的使用，然而，往往没有考虑到深刻的人权影响和对人类生活的实际影响。这些技术在很大程度上是不受监管的，开发和部署在不透明的空间中，几乎没有监督和问责。本文研究了移民管理中使用的技术是如何在几乎没有国际监管的情况下侵犯人权的，认为这种缺乏监管是故意的，因为各国将移民人口作为新技术的可行试验场。让移民更容易追踪和理解，就有理由在国家安全的幌子下，甚至在人道主义和发展的比喻下，使用更多的技术和数据收集。技术的运作方式是一个有用的透镜，突出了国家实践、民主、权力观念和问责制。技术本身并不是民主的，在人道主义和强迫移民的背景下考虑人权影响尤为重要。国际人权法框架对于编纂和确认潜在危害特别有用，因为技术及其发展本身就是全球性和跨国性的。需要更多的监督和针对具体问题的问责机制，以保障移民的基本权利，如免受歧视的自由、隐私权和程序正义保障，如公平决策者的权利和上诉权。

下载下载PDF查看PDFV形_右

AJIL Unbound，2020年

人们对人工智能实现公共决策自动化的潜力充满热情。机器学习和计算文本分析的兴起，加上数字平台的普及，提高了“机器人判断”和“机器人管理员”的前景。从人权的角度来看，反应喜忧参半，总的来说是负面的。乐观主义者预示着使法律服务民主化并使决策更具可预测性和效率的可能性。然而，批评人士警告称，新形式的社会控制、任意性和不平等现象令人担忧。本文从社会保障权和公平审判权这两项国际人权的角度来审视人们对转向自动化的关注。它认为，虽然这些批评值得充分听取，但它们应该以证据为基础，以对“技术系统”的理解为依据，并认识到人类和机器故障之间的权衡。

下载下载PDF查看PDFV形_右

北欧国际法杂志

本文利用作者试图构建一个事后干预机器学习（ml）系统的民族志，以应对庇护法决定中的歧视问题。在这篇文章中，我们重新审视了法律的结合作为一种缓慢的解释，与人工智能和商业需求的快节奏拉动相反，我们要问的是，像研究项目中建立的那样，一个由ml驱动的事后干预系统是否降低了庇护法律决策中人类自由裁量权产生的歧视的总体风险。我们的结论是，ml驱动的“反歧视机器”将取代而不是降低总体风险。我们警告说，在国际法和其他法律中，将ml作为法律决策、决策支持和事后干预的一部分的类似尝试可能需要认真对待ml设计和数据选择中嵌入的人类自由裁量权风险。

下载下载PDF查看PDFV形_右

2022

下载下载PDF查看PDFV形_右

《民主杂志》，2019年

下载下载PDF查看PDFV形_右

《德国法律杂志》，2024年

这篇文章讨论了在公共决策中使用自动化系统的紧迫问题，特别侧重于移民、庇护和流动。根据经验数据，本文探讨了《通用数据保护条例》和《人工智能法案》在有效应对自动化决策（ADM）带来的挑战方面的潜力和局限性。该文章认为，当前ADM的法律定义和分类未能捕捉到现实应用的复杂性和多样性，在现实应用中，自动化系统帮助人类决策者，而不是完全取代他们。为了弥合ADM在法律和实践上的差距，本文建议超越“自动决策”的概念，并用一种可以为基本权利分析提供信息的分类法来补充GDPR和AI法案中的法律保护。该分类法增强了我们对行政管理的理解，并使我们能够确定相关的基本权利和适用于行政管理的特定部门立法。该条呼吁其他公法领域的专家进行经验观察和投入，以丰富和完善拟议的分类法，从而确保更清晰的概念框架，以保护我们日益算法化的社会中的个人。

下载下载PDF查看PDFV形_右

ILCSS（工作文件），2019年

本文研究了2012年至2016年期间移民和海关执法（ICE）官员惩罚性偏见的变化。我们将惩罚性偏见定义为，与高风险分类案例相比，官员对低风险分类案例表达书面异议的可能性更高。我们提供的证据表明，背景因素以两种不同的方式进入移民决策过程：一是根据案件数量改变官员的参考框架，处理中心可用的复合风险组合（例如案件量流），以及应对外部冲击（例如选举）。其次，通过允许策略偏好编辑风险算法（即插入、删除和重新加权不同类型违规的重要性）。该分析从2012年至2016年间根据《信息自由法案》（FOIA）收到的140万移民拘留风险分类评估案例中提取数据。移民|选举周期|惩罚性偏见|风险分类|移民拘留。

下载下载PDF查看PDFV形_右