让模型说密码：通过嵌入的多智能体辩论
计算与语言
2024-02-27 v2 人工智能
机器学习
摘要
大语言模型（LLM）之间的讨论与辩论因其增强 LLM 推理能力的潜力而受到相当关注。尽管由于其语言理解能力，自然语言显然是通信的选择，但生成自然语言所需的 token 采样步骤带来了信息损失的潜在风险，因为它仅使用一个 token 来表示模型在整个词表上的信念。本文引入了一种名为 CIPHER（通过嵌入表示的通信式模型间协议，Communicative Inter-Model Protocol Through Embedding Representation）的通信机制以解决此问题。具体而言，我们从 LLM 中移除 token 采样步骤，让它们通过原始 transformer 输出嵌入的期望来跨词表传达其信念。值得注意的是，通过偏离自然语言，CIPHER 在不修改任何模型权重的情况下提供了编码更宽泛信息的优势，在五项推理任务和多个不同规模的开放源码 LLM 上以 0.5-5.0% 优于使用自然语言的当前最先进 LLM 辩论方法。这展示了嵌入作为 LLM 间替代“语言”通信的优越性与鲁棒性。我们期望 CIPHER 能启发对 LLM 智能体系统内部交互设计的进一步探索，提供一个可能显著影响该领域未来发展动向的新方向。
引用
@article{arxiv.2310.06272,
title = {Let Models Speak Ciphers: Multiagent Debate through Embeddings},
author = {Chau Pham and Boyi Liu and Yingxiang Yang and Zhengyu Chen and Tianyi Liu and Jianbo Yuan and Bryan A. Plummer and Zhaoran Wang and Hongxia Yang},
journal= {arXiv preprint arXiv:2310.06272},
year = {2024}
}
备注
Accepted to ICLR 2024