探究大型语言模型用于代码漏洞检测的能力：实验研究
计算与语言
2025-01-07 v2
摘要
代码漏洞检测（CVD）是解决和防止系统安全问题的关键任务，在确保软件安全方面发挥着重要作用。以往基于学习的漏洞检测方法依赖于对中等规模序列模型进行微调或从头训练较小的神经网络。近期大型预训练语言模型（LLMs）在各种代码智能任务中展现出惊人的能力，包括代码理解和生成。然而，LLMs 在检测代码漏洞方面的有效性仍鲜有探讨。本工作旨在通过为 CVD 任务微调 LLMs 来填补这一差距，涉及四个广泛使用的开源 LLMs。我们还实现了另外五个基于图的或中等规模序列模型进行比较。实验在五个常用 CVD 数据集上进行，包括短样本和长样本。此外，我们进行了定量实验，探讨了类别不平衡问题以及模型在不同长度样本上的表现，这些问题在以往工作中鲜有探讨。为更好地促进社区发展，我们开源了本研究的所有代码和资源，地址为 https://github.com/SakiRinn/LLM4CVD 和 https://huggingface.co/datasets/xuefen/VulResource。
引用
@article{arxiv.2412.18260,
title = {Investigating Large Language Models for Code Vulnerability Detection: An Experimental Study},
author = {Xuefeng Jiang and Lvhua Wu and Sheng Sun and Jia Li and Jingjing Xue and Yuwei Wang and Tingting Wu and Min Liu},
journal= {arXiv preprint arXiv:2412.18260},
year = {2025}
}
备注
Under Review