提升AI系统安全性：一种检测深度神经网络后门的新方法
密码学与安全
2024-03-14 v1 计算机视觉与模式识别
摘要
在通信与网络安全快速演变的格局中，对深度神经网络（DNN）和云服务进行数据处理的日益依赖带来了一个显著漏洞：可能被恶意行为者利用的后门。我们的方法利用先进的张量分解算法——独立向量分析（IVA）、多集典型相关分析（MCCA）和平行因子分析（PARAFAC2）——来细致分析预训练DNN的权重，并有效区分被植入后门的模型与干净模型。我们方法的关键优势在于其领域独立性、对各种网络架构的适应性，以及无需访问被审查模型训练数据即可运行的能力。这不仅确保了跨不同应用场景的通用性，也解决了在缺乏用于改变网络行为的特定触发器先验知识的情况下识别后门的挑战。我们已将检测流程应用于三个不同的计算机视觉数据集，涵盖图像分类和目标检测任务。结果表明，与现有后门检测方法相比，准确率和效率均有显著提升。这一进展增强了网络化系统中深度学习和AI的安全性，为应对新兴技术中不断演变的威胁提供了必要的网络安全保障。
引用
@article{arxiv.2403.08208,
title = {Advancing Security in AI Systems: A Novel Approach to Detecting Backdoors in Deep Neural Networks},
author = {Khondoker Murad Hossain and Tim Oates},
journal= {arXiv preprint arXiv:2403.08208},
year = {2024}
}
备注
6 pages, Accepted at the International Conference on Communications 2024. arXiv admin note: text overlap with arXiv:2212.08121