网络安全中的生成式 AI：LLM 应用与漏洞的全面综述
密码学与安全
2025-01-20 v2 人工智能
摘要
本文通过生成式 AI 和大型语言模型 (LLM) 对网络安全的未来进行了全面综述。我们探讨了 LLM 在各个领域的应用，包括硬件设计安全、入侵检测、软件工程、设计验证、网络威胁情报、恶意软件检测和网络钓鱼检测。我们概述了 LLM 的演变及其现状，重点关注 GPT-4、GPT-3.5、Mixtral-8x7B、BERT、Falcon2 和 LLaMA 等模型的进展。我们的分析延伸至 LLM 漏洞，如提示注入、不安全输出处理、数据投毒、DDoS 攻击和对抗性指令。我们深入探讨了保护这些模型的缓解策略，全面审视了潜在的攻击场景和防御技术。此外，我们评估了 42 个 LLM 模型在网络安全知识和硬件安全方面的表现，突出了它们的优势和弱点。我们全面评估了用于 LLM 训练和测试的网络安全数据集，涵盖了从数据创建到使用的生命周期，并指出了未来研究的空白。此外，我们回顾了利用 LLM 的新策略，包括半二次量化 (HQQ)、基于人类反馈的强化学习 (RLHF)、直接偏好优化 (DPO)、量化低秩适配器 (QLoRA) 和检索增强生成 (RAG) 等技术。这些见解旨在增强实时网络安全防御，并提升 LLM 在威胁检测和响应中应用的成熟度。我们的论文为将 LLM 整合到未来网络安全框架中提供了基础理解和战略方向，强调创新和稳健的模型部署，以防范不断演变的网络威胁。
引用
@article{arxiv.2405.12750,
title = {Generative AI in Cybersecurity: A Comprehensive Review of LLM Applications and Vulnerabilities},
author = {Mohamed Amine Ferrag and Fatima Alwahedi and Ammar Battah and Bilel Cherif and Abdechakour Mechri and Norbert Tihanyi and Tamas Bisztray and Merouane Debbah},
journal= {arXiv preprint arXiv:2405.12750},
year = {2025}
}
备注
52 pages, 8 figures