定位和编辑 Mamba 中的事实关联

我们研究 Mamba 状态空间模型中事实记忆的机制。我们的工作受到自回归变压器语言模型中事实记忆局部化于特定模块在特定 token 位置的发现启发，我们因此询问 Mamba 的事实记忆是否可以类似地局部化。为此，我们对 Mamba 进行四种实验。首先，我们应用因果追踪或置换干预来局部化 Mamba 中负责记忆事实的关键组件，揭示中间层的特定组件在主题的最后一个 token 上显示出强烈的因果效应，而对后续层的干预效应最显著地出现在提示最后一个 token 上，与自回归变压器的发现相符。其次，我们表明秩-one 模型编辑方法可以成功地在特定位置插入事实， again 类似于变压器 LM 的发现。第三，我们检查 Mamba 对事实关系的表示线性性。第四，我们将注意力-knockout 技术适用于 Mamba，以解剖事实记忆期间的信息流。我们直接将 Mamba 与类似规模的自回归变压器 LM 进行比较，得出结论尽管在架构方法上存在显著差异，但在事实记忆方面，两种架构共享许多相似之处。