CatchBackdoor：通过关键木马神经路径模糊测试检测后门

深度神经网络（DNNs）在现实应用中的成功受益于丰富的预训练模型。然而，带后门的预训练模型会对下游 DNNs 的部署构成重大木马威胁。已有众多后门检测方法被提出，但受限于两方面：（1）对触发器大小高度敏感，尤其对隐蔽攻击（即混合攻击与防御自适应攻击）；（2）严重依赖良性样本进行逆向工程。为应对这些挑战，我们通过经验观察到，由各类木马攻击触发的木马行为可归因于木马路径，即由对模型预测变化贡献更显著的前 $k$ 个关键神经元组成。受此启发，我们提出 CatchBackdoor，一种针对木马攻击的检测方法。基于木马行为与触发错误的木马路径之间的紧密关联，CatchBackdoor 从良性路径出发，通过差分模糊测试逐步逼近木马路径。随后我们从木马路径逆向触发器，以触发由多种木马攻击引起的错误。在 MINST、CIFAR-10 和 a-ImageNet 数据集及 7 个模型（LeNet、ResNet 和 VGG）上的大量实验表明，CatchBackdoor 相较最先进方法具有优越性：（1）有效——展现出更好的检测性能，尤其在隐蔽攻击上（平均约 $\times$ 2）；（2）可扩展——对触发器大小鲁棒且无需良性样本即可进行检测。