深度学习系统中的安全弱点与漏洞
软件工程
2024-06-14 v1 人工智能
摘要
基于AI的软件系统（特别是以深度学习技术作为功能核心的系统）的安全保障，对于抵御利用软件漏洞的对抗性攻击至关重要。然而，对于此类系统中漏洞的系统性研究却很少受到关注。从开源软件社区了解到的一个常见情况是，深度学习工程师经常将现成或开源的深度学习框架集成到他们的生态系统中。在这项工作中，我们专门研究了深度学习（DL）框架，并通过对来自通用漏洞披露（CVE）和开源DL工具（包括TensorFlow、Caffe、OpenCV、Keras和PyTorch）中已识别漏洞的全面分析，首次对DL系统中的漏洞进行了系统性研究。我们提出了一个双流数据分析框架，用于探索来自不同数据库的漏洞模式。我们调查了看似分散和碎片化的独特DL框架和库开发生态系统。通过重新审视提供传统软件漏洞相关实践的通用弱点枚举（CWE）列表，我们观察到在整个DL系统生命周期中检测和修复漏洞更具挑战性。此外，我们对3,049个DL漏洞进行了大规模实证研究，以更好地理解漏洞模式及修复挑战。我们已在https://github.com/codelzz/Vulnerabilities4DLSystem发布了完整的复现包。我们期望我们的研究能推动安全DL系统的发展。
引用
@article{arxiv.2406.08688,
title = {On Security Weaknesses and Vulnerabilities in Deep Learning Systems},
author = {Zhongzheng Lai and Huaming Chen and Ruoxi Sun and Yu Zhang and Minhui Xue and Dong Yuan},
journal= {arXiv preprint arXiv:2406.08688},
year = {2024}
}