LLM-based聊天机器人中的知识-行为断裂
计算与语言
2025-09-25 v1 人工智能
摘要
大型语言模型（LLM）的人工对话代理（如ChatGPT）会回答各种问题，往往这些答案是正确的。仅凭这一能力，我们可能赋予它们知识。但这些模型是否会在其自身的对话行为中使用这种知识？我认为不是，并且我将将这种失败称为“断裂”。我进一步认为，这种断裂是根本性的，即使对LLM进行更多数据和训练，基于其上的对话聊天机器人也不会消失。原因是，我将声称的是，训练LLM所使用的核心技术不允许建立我们所寻求的连接。这种断裂反映了LLM能力的根本限制，解释了幻觉的来源。我还将考虑伦理版本的断裂（伦理对话知识未与伦理对话行为一致），由于在该领域研究人员已提出了几种额外技术来影响聊天机器人的行为。我将讨论这些技术如何不解决断裂问题，甚至可能使其恶化。
引用
@article{arxiv.2509.20004,
title = {The Knowledge-Behaviour Disconnect in LLM-based Chatbots},
author = {Jan Broersen},
journal= {arXiv preprint arXiv:2509.20004},
year = {2025}
}