数学神经手术：仅通过正向传递隔离语言模型的数学推理能力

数学推理是大型语言模型（LLM）研究中的热门领域，因为它是人工智能的标志性特征，且在多个领域具有意义，包括数学教育。然而，少数研究探索了数学推理是如何编码在LLM参数中的，以及它是否是一种可以被隔离在模型内部的技能。实现这一目标可以允许针对性地干预以改善数学性能，而不会影响非数学行为，从而促进对模型如何编码数学推理的理解。我们引入了数学神经手术（MathNeuro），这是一种计算效率高的方法，用于仅通过正向传递隔离LLM中的数学特定参数。MathNeuro建立在现有研究基础上，利用权重和激活值计算参数重要性，但通过过滤对一般语言任务重要的参数来隔离数学特定参数。通过修剪这些被识别的参数，MathNeuro可以在不显著影响其一般语言能力的前提下删除LLM的数学推理能力。通过对被识别参数进行比例放大，能够在不改变非数学行为的前提下，将预训练或指令调优LLM的GSM8K上的性能提升4-17%，在MATH上的性能提升5-35%。MathNeuro也非常数据高效：在仅使用单个样本的情况下识别数学特定参数，大多数效果依然保持。MathNeuro为未来在数学特定参数上进行干预指明了潜力。