深度神经网络特洛伊木马攻击与防御综述
密码学与安全
2024-08-20 v1 计算机视觉与模式识别
摘要
深度神经网络(DNNs)已在安全关键型人工智能系统中得到广泛应用，如自动驾驶和面部识别系统。然而，近期研究揭示了其对攻击者恶意注入的神经网络特洛伊木马(NN特洛伊木马)的易受攻击性。这一脆弱性源于DNNs的复杂架构与不透明性，导致模型中嵌入了大量冗余神经元。攻击者利用这些漏洞在DNNs中隐藏恶意特洛伊木马，从而导致错误输出，并对DNNs应用的有效性构成重大威胁。本文对DNNs的特洛伊木马攻击及用于缓解此类攻击的防御方法进行了全面综述。首先，我们追溯了该概念从传统特洛伊木马到NN特洛伊木马的演变，突出了生成NN特洛伊木马的可行性与实用性。随后，我们概述了涵盖各种攻击与防御策略的代表性工作，促进了对其方法的比较分析。通过这些讨论，我们提供了旨在完善这些技术的建设性见解。鉴于该主题的严重性与紧迫性，我们还评估了在真实场景中部署此类攻击（相较于受控理想数据集）的可行性。潜在的真实世界影响凸显了有效应对这一问题的紧迫性。
引用
@article{arxiv.2408.08920,
title = {A Survey of Trojan Attacks and Defenses to Deep Neural Networks},
author = {Lingxin Jin and Xianyu Wen and Wei Jiang and Jinyu Zhan},
journal= {arXiv preprint arXiv:2408.08920},
year = {2024}
}