生成式歧视：生成式 AI exhibited bias 时会发生什么，以及如何解决
计算机与社会
2025-03-10 v1 人工智能
摘要
随着生成式人工智能（genAI）技术在各行业的普及，它们为带来显著效益，同时也风险加剧歧视。本章节探讨了 genAI 与非歧视法律的交叉问题，识别了不足之处并提出了改进建议。它突出了两种主要类型的歧视性输出：（i）贬义和侮辱性内容；（ii）由于未充分代表受保护群体而产生的微妙歧视，这些歧视在单个案例中可能不明显，但具有累积性歧视效应。例如，genAI 系统在询问关于重要职位人物的图像时，可能主要呈现白人男性。本章节审查了这些问题，将有问题的输出归类为三个法律类别：歧视性内容；骚扰；以及类似不平衡内容、有害刻板印象或误分类的法律难题。它主张对 genAI 提供者和部署者对歧视性输出负有责任，并指出传统法律框架不足以解决 genAI 特有的议题。本章节建议更新欧盟法律，包括《AI 法案》，以减轻训练和输入数据中的偏见，要求进行测试和审计，并随技术进步而演进立法，以强制执行偏见缓解和包容性标准。
引用
@article{arxiv.2407.10329,
title = {Generative Discrimination: What Happens When Generative AI Exhibits Bias, and What Can Be Done About It},
author = {Philipp Hacker},
journal= {arXiv preprint arXiv:2407.10329},
year = {2025}
}
备注
arXiv admin comment: This version has been removed by arXiv administrators as the submitter did not have the rights to agree to the license at the time of submission