预训练语言模型中知识关键子网络的发现

预训练语言模型（LMs）在其参数中编码了知识的隐式表示。然而，定位这些表示并将其彼此解耦仍是一个开放问题。在本工作中，我们探究预训练语言模型是否包含各种知识关键子网络：特定的稀疏计算子图，若被移除，可精确抑制模型已记忆的特定知识。我们提出一种可应用于权重与神经元的多目标可微掩码方案，以发现此类子网络，并表明可利用它们从模型中精确移除特定知识，同时将对原始模型行为的不良影响降至最低。我们在多个 GPT2 变体上演示了我们的方法，揭示了高度稀疏的子网络（98%+ 稀疏度），它们对表达特定关系知识集合至关重要。当这些子网络被移除时，剩余网络维持其大部分初始能力，却难以表示被抑制的知识。