面向信息不对称情境下的 LLM 代理的沟通与验证——向协作目标迈进
计算与语言
2025-10-30 v1 人工智能
摘要
虽然大型语言模型 (LLM) 代理通常从动作规划/生成的角度来实现给定目标 (例如通过语言描述), 但其相互协作以实现共同目标的能力尚未得到充分探索。为此, 本文聚焦信息不对称情境下的 LLM 代理任务协作, 即代理之间知识与技能存在差异, 需协作完成共享任务。我们将经典符号拼图「Einstein Puzzles」扩展为桌面游戏。该游戏中, 两个 LLM 代理必须进行推理、沟通与行动, 以满足解题所需的空间与关系约束。我们采用「精调加验证器」框架, 为 LLM 代理提供多种沟通策略及环境验证信号。实证结果表明, 在代理同时具备信息 seeking 与 providing 能力时, 对齐的沟通尤为关键。有趣的是, 未采用沟通的代理仍能实现较高的任务性能; 但进一步分析揭示其缺乏真正的规则理解, 且人类评估者信任度较低。相反, 通过融合环境基的验证器, 可提升代理理解任务规则的能力, 从而在更安全、更可解释的 AI 系统协作中取得佳绩。https://github.com/Roihn/EinsteinPuzzles
引用
@article{arxiv.2510.25595,
title = {Communication and Verification in LLM Agents towards Collaboration under Information Asymmetry},
author = {Run Peng and Ziqiao Ma and Amy Pang and Sikai Li and Zhang Xi-Jia and Yingzhuo Yu and Cristian-Paul Bara and Joyce Chai},
journal= {arXiv preprint arXiv:2510.25595},
year = {2025}
}
备注
Workshop on Multi-Agent System @ ICML 2025