验证必需：信息可信度对 AI 说服影响的研究

由大语言模型 (LLM) 提供动力的智能体日益被部署于沟通塑造高风险决策的场景中，使得对战略沟通的原则性理解至关重要。先前的工作要么研究不可验证的廉价说服，要么研究完全可验证的披露，未能捕捉信息具有概率可信度的现实场景。我们引入 MixTalk，这是一种用于 LLM-to-LLM 交互的信息可信度建模的战略沟通游戏。在 MixTalk 中，发送方智能体战略性地组合可验证与不可验证的论点以传递私人信息，而接收方智能体在有限预算下进行昂贵验证，并从先前信念、论点和验证结果中推断潜在状态。我们在三个现实部署场景中的大规模锦标赛中评估了最先进的 LLM 智能体，揭示了其在推理信息可信度方面的优势与局限，以及塑造这些互动的显性行为。最后，我们提出了 Tournament Oracle Policy Distillation (TOPD)，这是一种从交互日志中提炼锦标赛 oracle policy 并在推理时原地部署的离线方法。我们的结果表明，TOPD 在提升接收方对说服的鲁棒性方面取得显著提高。