欧洲边境的自动化决策与人工智能及其对人权的风险
计算机与社会
2024-10-24 v1
摘要
许多国家使用自动化决策（ADM）系统（通常基于人工智能）来管理边境移民。这篇跨学科论文探讨了两个问题。自动化决策在欧盟边境的主要使用方式有哪些？这种自动化决策是否带来与人权相关的风险，如果是，是哪些风险？论文介绍了欧盟边境四种类型ADM系统的分类。三种类型用于边境：（1）通过检查生物特征进行识别和验证的系统，（2）风险评估系统，以及（3）边境监控系统。此外，（4）测谎仪和情绪检测器正在欧盟边境进行测试。我们讨论了此类自动化决策的三类风险，即与以下人权相关的风险：（1）隐私和数据保护，（2）非歧视，以及（3）公平审判和有效救济。本文主要基于我们进行的关于边境自动化决策使用的文献综述。论文结合了多个学科的见解，包括社会科学、法学、计算机科学和移民研究。
引用
@article{arxiv.2410.17278,
title = {Automated decision-making and artificial intelligence at European borders and their risks for human rights},
author = {Yiran Yang and Frederik Zuiderveen Borgesius and Pascal Beckers and Evelien Brouwer},
journal= {arXiv preprint arXiv:2410.17278},
year = {2024}
}