深度神经网络中的手工后门

当机器学习训练被外包给第三方时，$后门$ $攻击$（backdoor attacks）变得切实可行，因为训练模型的第三方可能恶意地在原本准确的模型中注入隐藏行为。迄今为止，注入后门的机制仅限于$data$ $poisoning$（数据投毒）。我们认为供应链攻击者拥有更多可用攻击技术，通过引入一种直接操纵模型权重的$手工$（handcrafted）攻击。与投毒相比，这种直接修改赋予攻击者更多自由度，并且我们展示它可被用于有效规避许多后门检测或消除防御。在四个数据集和四种网络架构上，我们的后门攻击保持了高于96%的攻击成功率。我们的结果表明，需要进一步研究以理解供应链后门攻击的完整空间。