纸牌屋：大语言模型中的巨型权重

巨型激活值表现为隐藏状态中特定特征维度的一部分，引入了巨型语言模型（LLMs）中的显著偏置，导致对相应标记的过度强调。在本文中，我们识别到巨型激活并非源自隐藏状态，而是来自早期层中前馈网络模块的中间状态。基于巨型激活仅出现在特定特征维度中的观察，我们深入探讨导致巨型激活的权重。具体而言，我们定义顶级k个巨型权重（top-$k$ massive weights）为贡献中间状态中排名前k大幅度维度的权重。当这些巨型权重被设置为零时，巨型语言模型的功能将完全受到破坏。然而，当仅保留巨型权重而将其他所有权重设置为零时，仅导致轻微的性能下降，尽管设置的权重数量大幅增加。这表明在预训练过程中，学习主要集中在巨型权重上。基于此观察，我们提出一种称为MacDrop（巨型权重课程 dropout）的简单插即用方法，以减少对巨型权重的依赖。该方法在参数高效微调期间对预训练的巨型权重应用 dropout，从高 dropout 概率开始，逐渐降低。通过各种实验，包括零样本下游任务、长上下文任务和消融研究，我们展示了\texttt{MacDrop}通常能提高性能并增强鲁棒性。