利用干预手段提升文本匹配推荐系统的分布外泛化能力

给定用户输入文本后，文本匹配推荐系统通过将输入文本与可用条目的描述（如电商平台上的商品对商品推荐）进行比较来输出相关条目。由于用户的兴趣和商品库存预期会发生变化，文本匹配系统对数据偏移的泛化能力至关重要，该任务被称为分布外（OOD）泛化。然而，我们发现，在配对条目相关性数据（例如用户点击）上微调大型基础语言模型的流行方法，可能对OOD泛化产生反效果。在一个商品推荐任务中，当推荐新类别的商品或面向未来时间段时，微调模型的准确率比基础模型更差。为解释这一泛化失败，我们考量了一种基于干预的重要性度量，其表明微调模型捕捉了虚假相关性，而未能学习决定任意两个文本输入之间相关性的因果特征。此外，标准的因果正则化方法在此设定下并不适用，因为不同于图像，在文本匹配任务中不存在普遍性的虚假特征（同一词元可能是虚假的也可能是因果的，取决于其所匹配的文本）。因此，针对文本输入的OOD泛化，我们强调一个不同的目标：避免某些特征获得过高的重要性分数。我们采用一种基于干预的正则化器来实现这一点，该正则化器约束任意词元对模型相关性评分的因果效应类似于基础模型。在Amazon商品及3个问答推荐数据集上的结果表明，我们提出的正则化器在分布内与OOD评估中均提升了泛化能力，尤其在基础模型不准确的高难度场景下。