民主化 AI 是可能的：民主层级框架展示其可能运作方式
计算机与社会
2025-08-22 v4
摘要
本立场论文论证了有效“民主化 AI”需要 AI 的民主治理与对齐，且这对于具有系统性社会影响的决策尤为重要。初步尝试——如 Meta 的社区论坛与 Anthropic 的集体宪法 AI——展示了一个有前景的方向，即可以利用民主过程实质性地提升公众在关键决策中的参与度与信任。为了更具体地探索日益民主化的 AI 可能呈现何种面貌，我们提供了一个“民主层级”框架及相关工具，它们能够：（i）定义迈向实质性民主 AI 的里程碑，这对于实现实质多元、以人为本、参与式及公共利益的 AI 同样至关重要；（ii）帮助指导寻求在艰难的 AI 治理与对齐问题上提升决策合法性的组织；（iii）支持对此类工作的评估。
引用
@article{arxiv.2411.09222,
title = {Democratic AI is Possible. The Democracy Levels Framework Shows How It Might Work},
author = {Aviv Ovadya and Kyle Redman and Luke Thorburn and Quan Ze Chen and Oliver Smith and Flynn Devine and Andrew Konya and Smitha Milli and Manon Revel and K. J. Kevin Feng and Amy X. Zhang and Bilva Chandra and Michiel A. Bakker and Atoosa Kasirzadeh},
journal= {arXiv preprint arXiv:2411.09222},
year = {2025}
}
备注
31 pages. Accepted to the position paper track at ICML 2025. A previous version was presented at the Pluralistic Alignment Workshop at NeurIPS 2024. For ongoing work, see: https://democracylevels.org