时间推理中的读出-中介角
机器学习
2026-05-29 v1 人工智能
摘要
线性探针几乎能完美解码表示，但与模型实际使用的方式却完全无关。在语言模型的日历日期持续时间推理任务中，一个正/余弦探针能够从某一层的激活中恢复年日(julian day)，但剔除其方向对模型的答案没有任何影响——而剔除该层通过分布式对齐搜索(DAS)找到的四维子空间则会导致性能完全崩溃。我们测量这两个子空间之间的夹角——即读出-中介角——并发现其与两个随机子空间之间的夹角(哈巴均匀的零值)几乎无差别，表明探针学习的方向与模型实际计算的方向正交。逆向工程电路揭示了原因:注意力头通过在±30和±61天的学习QK偏移，将月粒度的上下文路由 through，随后MLP将"何时"(绝对日期)转换为"持续多长时间"(持续时间)——所有这些都位于探针从不触及的因果子空间之下。稀疏自动编码器分解确认了这种分离:探针对齐的特征与DAS对齐的特征编码了语义上互不相干的概念，与之几乎没有因果重叠。这种分离在四个规模(1.5-9B)和两个模型家族中复制，针对两个进一步领域(空间位移、符号算术)有初步证据，表明读出-中介正交是基于探针的可解释性失效的通用模式。这直接削弱了将探针作为运行时安全监视器部署的提议:探针可以在模型已放弃的方向上报告高置信度。
引用
@article{arxiv.2605.29126,
title = {When and How Long? The Readout-Mediator Angle in Temporal Reasoning},
author = {Shreyas Fadnavis and Praitayini Kanakaraj and Felix Wyss},
journal= {arXiv preprint arXiv:2605.29126},
year = {2026}
}