基于激活引导的认知行为建模

大语言模型 (LLM) 常在提示词、层和上下文之间不易预测地编码认知行为，使其难以诊断和控制。我们提出 CBMAS，一种用于连续激活引导的诊断框架，将认知偏差分析从离散的介入前后扩展到可解释的轨迹。通过将引导向量构建与稠密 $\alpha$ 扫荡相结合、运用基于逻辑镜头的偏差曲线和层位灵敏度分析，our 方法能够揭示小干预强度翻转模型行为的临界点，并展示引导效应如何随层深度演化。我们认为，这些连续诊断为高层行为评估与低层表示动态之间提供了桥梁，促进了 LLM 的认知可解释性。最后，我们提供一个命令行界面和 various cognitive behaviors 的数据集，地址为 https://github.com/shimamooo/CBMAS。