生成式人工智能中的认知不公正
人工智能
2024-08-22 v1
摘要
本文探讨了生成式人工智能如何可能削弱集体知识的完整性以及我们依赖这些知识来获取、评估和信任信息的过程，对我们的知识生态系统和民主话语构成重大威胁。基于社会和政治哲学，我们提出了生成式算法认知不公正的概念。我们识别了这一现象的四个关键维度：放大性和操纵性的证言不公正，以及诠释性无知和获取不公正。我们用真实世界的例子说明了每个维度，揭示了生成式人工智能如何产生或放大错误信息、延续表征性伤害并造成认知不平等，尤其是在多语种语境中。通过强调这些不公正，我们旨在为开发认知公正的生成式人工智能系统提供参考，提出了抵抗策略、系统设计原则以及两种利用生成式人工智能来促进更公平的信息生态系统的途径，从而保护民主价值观和知识生产的完整性。
引用
@article{arxiv.2408.11441,
title = {Epistemic Injustice in Generative AI},
author = {Jackie Kay and Atoosa Kasirzadeh and Shakir Mohamed},
journal= {arXiv preprint arXiv:2408.11441},
year = {2024}
}