Mellivora Capensis: 一种无需辅助数据的中毒数据集上的无后门训练框架

深度学习模型的有效性深受其训练数据质量的影响。考虑到数据多样性、数据规模和标注成本，模型训练者经常从在线仓库获取数据集。虽然经济上可行，但这种策略使模型面临严重的安全漏洞。不可信实体可以秘密地在数据集中嵌入触发器，通过后门攻击劫持在中毒数据集上训练的模型，这是一个严重的安全问题。尽管已有大量对策研究，但其固有局限性限制了在实际应用中的有效性，包括需要大量干净样本、在不同攻击场景下防御性能不一致、以及对自适应攻击的鲁棒性不足等。因此，本文致力于解决真实场景中后门攻击对策的挑战，从而增强数据收集方式下训练范式的安全性。具体地，我们首先探索潜在扰动与后门触发器之间的内在关系，并通过理论分析和实验证明中毒样本比干净样本对扰动具有更强的鲁棒性这一关键观察。然后，基于我们的关键探索，提出一个鲁棒且无需干净数据的后门防御框架Mellivora Capensis (MeCa)，使模型训练者能够在中毒数据集上训练出干净模型。