利用敏感数据消除AI系统偏见：欧盟人工智能法案第10(5)条
计算机与社会
2025-02-28 v4
摘要
2024年6月，欧盟人工智能法案正式生效。该法案包含了对人工智能系统提供者的义务要求。第10条规定了提供者需评估其训练、验证和测试数据集是否满足特定质量标准，包括对数据集中的偏见进行适当检验及纠正措施。伴随义务要求而来的是第10条第5款新规定，允许提供者收集敏感数据以履行此项义务。该例外旨在防止歧视。本文研究第10条第5款欧盟人工智能法案的适用范围及其含义。本文主要涉及欧盟法律，但在其他地区的政策制定者亦致力于规范人工智能系统中的偏见，故本研究可能具有更广泛的参考价值。
引用
@article{arxiv.2410.14501,
title = {Using sensitive data to de-bias AI systems: Article 10(5) of the EU AI Act},
author = {Marvin van Bekkum},
journal= {arXiv preprint arXiv:2410.14501},
year = {2025}
}