AI 中的政治中立是不可能的——但这里是如何逼近它
计算机与社会
2025-06-04 v2 人工智能
摘要
AI 系统经常表现出政治偏见，影响用户的意见和决策。虽然政治中立——被定义为没有偏见——通常被视为公平和安全的理想解决方案，但这篇立场论文认为，真正的政治中立既不可行也不具有普遍的期望性，这是由于其主观性质以及 AI 训练数据、算法和用户交互中固有的偏见。然而，受 Joseph Raz 的哲学洞见“中立[……]可以是一个程度问题”（Raz, 1986）的启发，我们主张努力争取某种程度的中立对于促进平衡的 AI 交互和减轻用户操纵仍然至关重要。因此，我们使用政治中立的“逼近”一词，将焦点从无法达到的绝对标准转移到可实现的、实用的代理指标上。我们提出了在概念化 AI 的三个层面上逼近中立的八种技术，并考察了它们的权衡和实施策略。此外，我们探讨了这些逼近的两个具体应用，以说明其实用性。最后，我们在当前的大语言模型（LLM）的输出层面评估了我们的框架，提供了如何对其进行评估的演示。这项工作旨在推进关于 AI 中政治中立的细致讨论，并促进负责任、对齐的语言模型的发展。
引用
@article{arxiv.2503.05728,
title = {Political Neutrality in AI Is Impossible- But Here Is How to Approximate It},
author = {Jillian Fisher and Ruth E. Appel and Chan Young Park and Yujin Potter and Liwei Jiang and Taylor Sorensen and Shangbin Feng and Yulia Tsvetkov and Margaret E. Roberts and Jennifer Pan and Dawn Song and Yejin Choi},
journal= {arXiv preprint arXiv:2503.05728},
year = {2025}
}
备注
Code: https://github.com/jfisher52/Approximation_Political_Neutrality