一种用于后门神经网络的异常检测方法：以人脸识别为例
计算机视觉与模式识别
2022-08-23 v1 密码学与安全
机器学习
摘要
后门攻击允许攻击者嵌入损害任何算法（无论是否机器学习）正常行为的功能。这种隐藏功能在算法正常使用时可保持不激活，直到被攻击者触发。鉴于后门攻击的隐蔽性，如果此类网络被部署于边境或门禁控制等关键应用中，这些后门造成的后果可能是灾难性的。在本文中，我们提出了一种基于异常检测原理的新型后门网络检测方法，涉及对训练数据干净部分及已训练网络的访问。我们突出了其在考虑各种触发器、位置和身份对时的良好潜力，而无需对后门及其设置的性质做任何假设。我们在一个新型的后门网络数据集上测试了我们的方法，并报告了具有完美分数的可检测性结果。
引用
@article{arxiv.2208.10231,
title = {An anomaly detection approach for backdoored neural networks: face recognition as a case study},
author = {Alexander Unnervik and Sébastien Marcel},
journal= {arXiv preprint arXiv:2208.10231},
year = {2022}
}
备注
Accepted at Biosig 2022, 8 pages, 4 figures