大型语言模型是否敏感于沟通背后的动机？
计算与语言
2026-02-03 v2 人工智能
机器学习
摘要
人类沟通是有动机的：人们会说话、撰写和创作内容时，都会心中有明确的沟通意图。因此，大型语言模型（LLM）和人工智能代理处理的信息本质上都受到人类意图和激励的框架化。人类擅长应对这种细微的信息：我们会定期识别出善意或自我利益的动机，以便决定信任哪些陈述。在现实世界中，LLM 也必须能够通过考虑信息来源的动机来批判性地评估内容——例如， weighing 销售演示中所作的信念的可信度。本文我们对 LLM 是否具备对动机敏感性进行了全面研究。我们首先采用认知科学中的受控实验，验证 LLM 的行为与理性动机性证词学习模型相符，发现它们在类人方式下成功地对偏见来源的信息进行贬值。随后，我们将评估扩展到赞助的线上广告，这是 LLM 代理信息生态系统的更自然的映射。在这些情境下，我们发现 LLM 的推断并未像理性模型预测那样紧密地跟踪——部分原因是额外信息干扰了其对警惕性考虑。然而，一个简单的引导干预通过提升意图和激励的显著性，显著增加了 LLM 与理性模型之间的对应性。这一结果表明，LLM 具备对他人动机的基本敏感性，但要实现对新现实情境的泛化，还需要进一步改进这些模型。
引用
@article{arxiv.2510.19687,
title = {Are Large Language Models Sensitive to the Motives Behind Communication?},
author = {Addison J. Wu and Ryan Liu and Kerem Oktar and Theodore R. Sumers and Thomas L. Griffiths},
journal= {arXiv preprint arXiv:2510.19687},
year = {2026}
}
备注
NeurIPS 2025