正交深度模型作为抵御黑盒攻击的防御手段

深度学习已在多种具挑战性的计算机视觉任务中展现出最先进的性能。一方面，这使深度视觉模型为疾病预后与智能监控等诸多关键应用铺平了道路。另一方面，深度学习也被发现易受对抗攻击，这呼唤新技术以防御这些攻击。在各类攻击算法中，黑盒方案因仅需目标模型的公开知识而具严重实际隐患。我们细致分析了深度模型在黑盒设定下的固有弱点——攻击者可利用与目标模型相似的模型发起攻击。基于分析，我们提出一种新颖的梯度正则化方案，其鼓励深度模型内部表示与另一模型正交，即便两模型架构相似。我们独特的约束使模型在追求更高精度的同时，维持相对于参考模型的近正交梯度对齐。详实的实证研究证实，在我们的正交目标下受控的梯度错向显著增强了模型对可迁移黑盒对抗攻击的鲁棒性。相较常规模型，正交模型对一系列 $l_p$ 范数有界扰动明显更鲁棒。我们在多种大规模模型上验证了技术的有效性。