ConFoc：面向神经网络木马攻击的内容聚焦防护
计算机视觉与模式识别
2020-07-03 v1 密码学与安全
机器学习
摘要
深度神经网络（DNNs）已成功应用于计算机视觉。然而，其在图像相关应用中的广泛采用受到对木马攻击脆弱性的威胁。这些攻击在训练时使用带标记或触发器的样本插入某些异常行为，并在推理或测试时被利用。本工作中，我们分析 DNNs 在训练时所学特征的组合。我们识别出它们（包括与插入的触发器相关的那些）同时包含内容（语义信息）与风格（纹理信息），在测试时被 DNNs 作为一个整体识别。我们随后提出一种针对木马攻击的新防御技术，其中教导 DNNs 忽略输入的风格并仅聚焦于其内容，以缓解分类期间触发器的影响。该方法的通用适用性在交通标志与人脸识别应用中得到展示。每个应用都暴露于具有多种触发器的不同攻击。结果表明，该方法将所有被测攻击的成功率显著降低至 < 1% 的值，同时在处理良性与对抗性数据时保持并提升了模型的初始准确率。
引用
@article{arxiv.2007.00711,
title = {ConFoc: Content-Focus Protection Against Trojan Attacks on Neural Networks},
author = {Miguel Villarreal-Vasquez and Bharat Bhargava},
journal= {arXiv preprint arXiv:2007.00711},
year = {2020}
}
备注
13 pages (excluding references), 7 figures, 7 tables