中文

深度学习中的建筑后门:漏洞、检测与防御综述

密码学与安全 2025-07-18 v1

摘要

建筑后门构成对深度神经网络的潜在但关键威胁,将恶意逻辑嵌入模型的计算图中。与传统的数据投毒或参数操纵不同,建筑后门能规避标准的缓解措施,即使在干净的重新训练后仍然持久存在。本综述系统性地整合了关于建筑后门的研究,涵盖编译器级操作、受污染的AutoML管道以及供应链漏洞。我们评估了新兴的检测与防御策略,包括静态图检查、动态模糊测试和部分形式化验证,并指出这些方法在针对分布式或隐形触发器时的局限性。尽管近期取得了进展,但可扩展且实用的防御仍然尚未实现。我们总结性地提出了开放挑战,并提出了加强供应链安全、密码学模型认证以及下一代基准测试的方向。本综述旨在为未来在深度学习系统中针对结构性后门威胁的全面防御提供指导。

关键词

引用

@article{arxiv.2507.12919,
  title  = {Architectural Backdoors in Deep Learning: A Survey of Vulnerabilities, Detection, and Defense},
  author = {Victoria Childress and Josh Collyer and Jodie Knapp},
  journal= {arXiv preprint arXiv:2507.12919},
  year   = {2025}
}

备注

35 pages, Under review for ACM Computing Surveys