将AI与公共价值相结合：治理多模态LLM以进行政治视频分析中的协商与决策
计算机视觉与模式识别
2025-07-23 v2 人工智能
计算机与社会
摘要
如何让AI模型处理政治议题已受到讨论，但仍然具有挑战性，需更好的治理。本文通过个人和集体协商，聚焦政治敏感视频，探讨大型语言模型的治理问题。我们开展了两步研究：首先通过访谈10名记者建立了专家视频解读的基线理解；其次通过InclusiveAI平台进行协商，涉及114名个体，该平台利用去中心化自主组织(DAO)机制促进民主决策。我们的发现揭示了解读优先事项存在差异：专家强调情感与叙事，而普通大众则优先考虑事实清晰性、客观性和情感中立性。此外，我们考察了不同的治理机制——二次投票与加权投票，以及平等投票与20/80投票权——如何影响用户对AI行为的决策。结果表明，投票方法显著影响结果，二次投票强化了自由民主主义和政治平等的感知。本研究强调选择合适治理机制的必要性，以更好地捕捉用户视角，并提示去中心化AI治理可能是促进更广泛公众参与AI开发的途径，以确保多样化视角在设计决策中发挥实质性影响。
引用
@article{arxiv.2410.01817,
title = {Aligning AI with Public Values: Deliberation and Decision-Making for Governing Multimodal LLMs in Political Video Analysis},
author = {Tanusree Sharma and Yujin Potter and Zachary Kilhoffer and Yun Huang and Dawn Song and Yang Wang},
journal= {arXiv preprint arXiv:2410.01817},
year = {2025}
}