权重何用？零样本知识组合的统一框架

模型封装的知识是决定其在下游任务最终表现的核心因素。自然语言处理（NLP）领域的许多研究致力于存储和适配不同类型知识的高效方法（例如在专用模块化结构中），以及如何有效地组合它们（例如通过学习额外参数）。然而，鉴于可能的选择众多，对这些组合所涉机制尚缺乏透彻理解，因此尚不清楚应采用何种策略。为填补这一研究空白，我们提出了一个零样本模块组合的新框架，该框架在单一统一概念下涵盖了用于选择、加权和组合参数模块的现有方法及一些新变体。聚焦于领域知识和适配器层的场景，我们的框架提供了概念的系统性统一，使我们能够对各种零样本知识组合策略进行首次全面的基准测试研究。具体而言，我们在广泛的实验设置中测试了两种模块组合方法和五种选择与加权策略的有效性与效率。我们的结果凸显了集成的有效性，但也暗示了简单却常被忽视的加权方法的威力。进一步的深入分析使我们能够理解加权与 top-k 选择的作用，并表明在某种程度上，适配器组合的性能甚至是可预测的。