深度学习中的后门攻击与防御措施：一项全面综述

本工作及时为学界提供了一份关于深度学习中后门攻击与防御措施的全面综述。根据攻击者的能力以及机器学习流水线中所受影响的阶段，攻击面被认识到十分广泛，并被形式化为六类：代码投毒、外包、预训练、数据收集、协作学习和部署后。相应地，我们对每一类下的攻击进行了梳理。防御措施被分为四个通用类别：盲后门去除、离线后门检测、在线后门检测和后后门去除。据此，我们回顾了防御措施，并比较和分析了它们的优缺点。我们还回顾了后门攻击的另一面，即其被用于：i) 保护深度学习模型的知识产权，ii) 作为蜜罐以捕获对抗样本攻击，以及 iii) 验证数据贡献者要求的数据删除。总体而言，防御研究远远落后于攻击研究，并且不存在单一的防御能够防止所有类型的后门攻击。在某些情况下，攻击者可以通过自适应攻击智能地绕过现有防御。从这一系统性综述中汲取见解，我们还提出了后门未来研究的关键领域，例如来自物理触发攻击的实证安全性评估，特别是亟需更高效且实用的防御措施。