深度学习中的神经木马攻击与防御综述
密码学与安全
2022-02-16 v1 人工智能
计算机视觉与模式识别
摘要
人工智能（AI）严重依赖深度学习——一项在 AI 的实际应用中日益流行、甚至用于安全关键和高风险领域的技术。然而，近期发现深度学习可通过在其中嵌入木马而被操纵。遗憾的是，规避深度学习计算需求的实用方案（例如将模型训练或数据标注外包给第三方）进一步增加了模型对木马攻击的易感性。鉴于该主题在深度学习中的关键重要性，近期文献在此方向上已有诸多贡献。我们对设计深度学习木马攻击的技术及其防御进行了全面综述。我们信息丰富的综述系统性地组织了近期文献，并讨论了方法的关键概念，同时假定读者具备最少的领域知识。它为更广泛的社区提供了理解神经木马近期发展的易懂途径。
引用
@article{arxiv.2202.07183,
title = {A Survey of Neural Trojan Attacks and Defenses in Deep Learning},
author = {Jie Wang and Ghulam Mubashar Hassan and Naveed Akhtar},
journal= {arXiv preprint arXiv:2202.07183},
year = {2022}
}
备注
15 pages