中文

任务模式与绑定:面向类比学习的双重解离研究

机器学习 2025-12-22 v1 计算与语言

摘要

我们提供对类比学习(ICL)的因果机制性验证,证明其分解为两个可分离的机制:任务模式(抽象任务类型识别)和绑定(特定输入输出关联)。通过跨9个来自7个Transformer家族外加Mamba模型(参数规模370M-13B)的激活修补实验,我们确立了三个关键发现:1. 双重解离:通过late MLP修补实现100%的任务模式迁移;通过残差流修补实现62%的绑定迁移——证明可分离机制 2. 先验-模式权衡:模式依赖与先验知识呈负相关(Spearman rho = -0.596, p < 0.001, N=28个任务-模型对) 3. 架构普适性:该机制在所有测试的架构中起作用,包括非Transformer的Mamba。这些发现提供了对ICL难题的机制性解释,与以往视其为单一机制(无论是基于检索、类梯度下降,还是纯贝叶斯)的观点形成对比。通过确立任务模式和绑定是神经可解离的——不仅仅是行为模式——我们为ICL的双过程理论提供了因果证据。模型在无先验知识时依赖任务模式,但先验知识通过注意力误导路由(72.7%的复occur bias)干扰,而非通过直接输出竞争(0%)。这解释了为何任意映射成功(零先验导致完全依赖模式)而事实性覆盖失败——揭示了瓶颈在于注意力,而非输出层。实践意义:理解这些双重机制使更高效的提示工程成为可能——可靠的模式迁移减少了 novel tasks 所需的演示次数,而先验意识设计可减轻高先验情境中38%的绑定失败率,从而提高ICL系统在生产部署中的可靠性。

关键词

引用

@article{arxiv.2512.17325,
  title  = {Task Schema and Binding: A Double Dissociation Study of In-Context Learning},
  author = {Chaeha Kim},
  journal= {arXiv preprint arXiv:2512.17325},
  year   = {2025}
}

备注

20pages, 2figures