LLMs 用于可扩展 Deliberation 的机遇与风险：以 Polis 为例
社会与信息网络
2023-06-22 v1 计算与语言
计算机与社会
人机交互
摘要
Polis 是一个利用机器智能扩展 deliberative 过程的平台。在本文中，我们探讨将大语言模型（LLMs）应用于 Polis 参与的 facilitation、moderation 与结果总结等挑战时所伴随的机遇与风险。特别地，我们使用 Anthropic 的 Claude 通过试点实验证明，LLMs 确实能够增强人类智能，以更高效地运行 Polis 对话。具体而言，我们发现总结能力开启了具有巨大潜力、能赋能公众进行集体意义建构活动的全新方法。并且值得注意的是，LLM 的上下文限制对这些结果的洞察与质量有显著影响。然而，这些机遇伴随风险。我们讨论其中部分风险，以及刻画与缓解它们的原则和技术，和对其他可能采用 LLMs 的 deliberative 或政治系统的启示。最后，我们以若干使用 LLMs 增强 Polis 之类工具的开放未来研究方向作结。
引用
@article{arxiv.2306.11932,
title = {Opportunities and Risks of LLMs for Scalable Deliberation with Polis},
author = {Christopher T. Small and Ivan Vendrov and Esin Durmus and Hadjar Homaei and Elizabeth Barry and Julien Cornebise and Ted Suzman and Deep Ganguli and Colin Megill},
journal= {arXiv preprint arXiv:2306.11932},
year = {2023}
}
备注
31 pages (main body; 45 with Bibliography and Appendix), 6 figures