AI数据密集型系统开发中的人权影响评估的证据驱动方法
人工智能
2024-07-31 v1
摘要
应对人工智能（AI）挑战已采用不同方法，一些以个人数据为中心，另一些以伦理为中心，分别缩小和扩大了AI监管的范围。本贡献旨在证明第三条道路是可能的，从承认人权在调节数据密集型系统影响中的作用开始。对人权的关注既不是范式转变，也不是纯粹的理论练习。通过对六个国家数据保护机构的700多项决定和文件进行分析，我们表明人权已经支撑着数据使用领域的决策。基于这一证据的经验分析，本工作提出了一种人权影响评估（HRIA）的方法论和模型。该方法论和相关评估模型聚焦于AI应用，其性质和规模要求对HRIA方法论进行适当的语境化。此外，所提出的模型提供了一种更可衡量的风险评估方法，与以风险阈值为中心的监管提案一致。该方法论在具体案例研究中进行了测试，以证明其可行性和有效性。总体目标是回应对HRIA日益增长的兴趣，从纯粹的理论辩论转向数据密集型AI应用领域中具体且语境特定的实施。
引用
@article{arxiv.2407.20951,
title = {An evidence-based methodology for human rights impact assessment (HRIA) in the development of AI data-intensive systems},
author = {Alessandro Mantelero and Maria Samantha Esposito},
journal= {arXiv preprint arXiv:2407.20951},
year = {2024}
}