基于 ChatGPT 的 EaTVul 软件漏洞检测规避攻击
密码学与安全
2024-07-30 v1 人工智能
软件工程
摘要
最近，深度学习在提高漏洞检测准确率和识别软件漏洞方面显示了巨大的潜力。然而，这些技术仍然容易受到攻击。对抗样本可以利用深度神经网络中的漏洞，构成系统安全的重大威胁。本研究展示了深度学习模型受到对抗攻击的脆弱性，这些攻击可实现 100% 的攻击成功率（参见表 5）。提出的方法 EaTVul 包括六个阶段：使用支持向量机识别重要样本、使用注意力机制识别重要特征、基于这些特征使用 ChatGPT 生成对抗数据、准备对抗攻击池、使用模糊遗传算法选择种子数据，以及执行规避攻击。大量实验表明 EaTVul 的有效性，当代码片段大小大于 2 时，攻击成功率超过 83%。此外，在大多数情况下当代码片段大小为 4 时，EaTVul 达到 100% 的攻击成功率。本研究的发现强调了在软件漏洞检测中对抗攻击需要 robust 防御措施的必要性。
引用
@article{arxiv.2407.19216,
title = {EaTVul: ChatGPT-based Evasion Attack Against Software Vulnerability Detection},
author = {Shigang Liu and Di Cao and Junae Kim and Tamas Abraham and Paul Montague and Seyit Camtepe and Jun Zhang and Yang Xiang},
journal= {arXiv preprint arXiv:2407.19216},
year = {2024}
}