中文

通过知识蒸馏与粒子群优化实现资源高效的自动软件漏洞评估

机器学习 2025-08-11 v2 密码学与安全

摘要

软件系统日益增加的复杂性导致网络安全漏洞激增,需要高效且可扩展的漏洞评估解决方案。然而,大型预训练模型在实际场景中的部署因其巨大的计算和存储需求而受到阻碍。为了应对这一挑战,我们提出了一个集成知识蒸馏和粒子群优化的新型资源高效框架,以实现自动化漏洞评估。我们的框架采用两阶段方法:首先,利用粒子群优化来优化紧凑学生模型的架构,平衡计算效率和模型容量。其次,应用知识蒸馏将关键的漏洞评估知识从大型教师模型转移到优化后的学生模型。该过程在保持高性能的同时显著减小了模型尺寸。在包含 12,071 个 CVSS(通用漏洞评分系统)v3 标注漏洞的增强版 MegaVul 数据集上的实验结果证明了我们方法的有效性。我们的方法在模型尺寸上实现了 99.4% 的缩减,同时保留了原始模型 89.3% 的准确率。此外,它在准确率上比最先进的基线高出 1.7%,且参数量减少了 60%。与传统遗传算法相比,该框架还将训练时间减少了 72.1%,架构搜索时间减少了 34.88%。

关键词

引用

@article{arxiv.2508.02840,
  title  = {Resource-Efficient Automatic Software Vulnerability Assessment via Knowledge Distillation and Particle Swarm Optimization},
  author = {Chaoyang Gao and Xiang Chen and Jiyu Wang and Jibin Wang and Guang Yang},
  journal= {arXiv preprint arXiv:2508.02840},
  year   = {2025}
}

备注

Accepted by Engineering Applications of Artificial Intelligence