指纹向量：通过向量加法实现可扩展且高效的模型指纹迁移

基于后门的指纹识别已成为追踪大型语言模型所有权的一种有效技术。然而，在实际部署场景中，开发者经常从共享的基础模型实例化多个下游模型，对每个变体单独应用指纹识别会产生高昂的计算开销。虽然基于继承的方法——即将指纹嵌入基础模型并期望其通过微调得以保留——看起来很有吸引力，但它们存在三个关键局限性：后期指纹识别、指纹不稳定以及对下游适应的干扰。为了解决这些挑战，我们提出了一种名为指纹向量的新机制。我们的方法首先通过基于后门的微调将指纹嵌入基础模型，然后通过计算带指纹模型与干净模型之间的差异，提取一个任务特定的参数增量作为指纹向量。该向量可以直接添加到任何结构兼容的下游模型中，从而允许在事后迁移指纹，而无需额外的微调。大量实验表明，指纹向量在关键指标上实现了与直接注入相当或更优的性能。它在多样的模型架构以及同一家族内的主流下游变体上均保持了强大的有效性。在大多数情况下，它也保持了无害性和鲁棒性。即使观察到轻微的鲁棒性下降，其影响仍在可接受范围内，并且被我们方法的可扩展性优势所抵消。