$K$-MSHC：通过语法分类任务实验揭示大型语言模型中最小充分注意力头电路
计算与语言
2025-06-06 v2 机器学习
摘要
理解哪些神经组件驱动中等规模语言模型（参数 10B）中特定能力的挑战仍然是关键问题。我们提出 最小充分注意力头电路（-MSHC），一种用于识别分类任务至关重要的注意力头最小集合的方法，以及 Search-K-MSHC，一种高效发现这些电路的算法。将我们的 Search-K-MSHC 算法应用于 Gemma-9B，我们分析了三个语法任务家族：语法可接受性、算术验证和算术 word problems。我们的发现揭示了具有不同任务特性的注意力头电路，其中语法任务主要利用早期层，word problems 在浅层和深层区域显示出显著活性，算术验证则表现为在整个网络中更均匀的分布模式。我们发现非线性电路重叠模式，其中不同任务对在不同重要性水平上共享计算组件。虽然语法和算术共享许多 "弱" 注意力头，但算术和 word problems 共享更多始终关键的 "强" 注意力头。重要的是，我们发现每个任务都保持专门的 "super-heads”，且与其他任务之间的重叠最小，表明语法和数值能力从专门且部分可重用的注意力头电路中涌现。
引用
@article{arxiv.2505.12268,
title = {$K$-MSHC: Unmasking Minimally Sufficient Head Circuits in Large Language Models with Experiments on Syntactic Classification Tasks},
author = {Pratim Chowdhary and Peter Chin and Deepernab Chakrabarty},
journal= {arXiv preprint arXiv:2505.12268},
year = {2025}
}