对话中的动态认知摩擦

近期在将大型语言模型（LLM）与人类偏好对齐方面的进展显著增强了其在人机协作场景中的实用性。然而，此类方法往往忽视了“认知摩擦”的关键作用，即面对新的、冲突的或模糊的信息时更新信念所遇到的固有阻力。在本文中，我们将动态认知摩擦定义为认知整合的阻力，其特征是智能体当前信念状态与外部证据支持的新命题之间的错位。我们将其置于动态认知逻辑（Van Benthem 和 Pacuit，2011）的框架内，其中摩擦在交互过程中表现为非平凡的信念修正。随后，我们展示了一项情境化协作任务的分析，该分析证明了这种认知摩擦模型如何有效预测对话中的信念更新，并进一步讨论了如何将信念对齐模型作为认知阻力或摩擦的度量，自然地使其更加复杂化，以适应现实世界对话场景的复杂性。