多巴胺：大脑模式，而非大脑

参数高效微调(PEFT)方法，如\lora{}，通过添加小的权重空间更新来适应大型预训练模型。虽然有效，但权重差在机制上难以解释，并且它们不能直接揭示对于新任务，哪些内部计算被重用，哪些被绕过。我们探索了一种受神经调节启发的替代观点：将适应视为一种“模式”的改变——选择和重新缩放现有计算——而不是重写底层权重。我们提出了\methodname{}，一种简单的激活空间PEFT技术，它冻结基础权重并学习每个神经元的“阈值”和“增益”。在训练期间，一个平滑的门控决定神经元的激活是否参与；在推理时，门控可以被硬化以产生显式的条件计算和神经元级别的归因。作为概念验证，我们在MNIST(0°)与旋转MNIST(45°)上研究了“模式特化”。我们在50/50混合数据上预训练一个小型MLP(基础模型)，冻结其权重，然后使用\methodname{}特化到旋转模式。在不同的随机种子下，\methodname{}在仅使用每层几百个可训练参数的情况下，提高了旋转准确率，超过了冻结基线，并表现出部分激活稀疏性(少数单元强烈激活)。与\lora{}相比，\methodname{}以一定的准确率为代价，换取了显著更少的可训练参数和更可解释的“哪些神经元激活”机制。我们讨论了局限性，包括当冻结基础缺乏目标模式所需特征时表达能力会降低。