知道不等于理解：用认知与行为洞察重新奠基生成式主动性
计算机与社会
2026-02-18 v1 人工智能
机器学习
摘要
生成式AI智能体将理解等同于解决显式查询，这一假设将交互限制在用户能够表达的内容范围内。当用户自身缺乏对缺失、有风险或值得考虑之事的意识时，这一假设就会失效。在这种情况下，主动性不仅仅是一种效率提升，更是一种认知上的必要性。我们将这种状态称为认知不完备性：即进步依赖于处理未知的未知因素以实现有效协作。现有的主动性方法仍然局限于狭隘的预测性，从过去的行为进行外推，并假定目标已经明确定义，因此未能有意义地支持用户。然而，揭示超出用户当前认知范围的可能性并非天生有益。不受约束的主动干预可能会误导注意力、使用户不堪重负或引入伤害。因此，主动智能体需要行为锚定：对智能体何时、如何以及在多大程度上进行干预的原则性约束。我们提出的立场是，生成式主动性必须在认知和行为两方面都得到锚定。借鉴无知哲学和主动性行为的研究，我们认为这些理论为设计能够负责任地参与并促进有意义协作的智能体提供了关键指导。
引用
@article{arxiv.2602.15259,
title = {Knowing Isn't Understanding: Re-grounding Generative Proactivity with Epistemic and Behavioral Insight},
author = {Kirandeep Kaur and Xingda Lyu and Chirag Shah},
journal= {arXiv preprint arXiv:2602.15259},
year = {2026}
}