无地面、有 grounding：可观测性与认知失败

当代理人能够阐述某事为何有效时，我们通常将此视为真正理解的证据。 这预设了有效行动与正确解释相互关联，以及解释的连贯性可靠地信号两者。 我认为，这一假设不适用于当代大型语言模型（LLM）。 我提出一种双向连贯悖论：能力与 grounding 不仅分离，而且在不同认知条件下呈倒置。 在低可观测性领域中，LLM 常常成功行动，却误确认产生其成功的机制。在高可观测性领域中，他们经常生成准确追踪可观察因果结构的解释，却未能将这些诊断转化为有效的干预。在两种情况下，解释的连贯性仍然完整，掩盖了底层的分离。 基于编译器优化和超参数调优实验，我提出了认知三角形模型，描述先前、信号与领域知识如何在不同可观测性条件下相互作用。 结果表明，行为成功或解释准确性单独都不足以归因于理解。 我认为，评估人工认知代理需要采用三元框架——连贯性、grounding 以及正确的 basing 关系，将解释与行动联系起来。 大型语言模型中 knowing-that 与 knowing-how 的系统性分离，挑战了从认识论及当前 AI 评估实践中继承的假设。