从文本到盾牌：大型语言模型与网络安全的融合
密码学与安全
2025-05-05 v1 人工智能
摘要
本报告探讨了大型语言模型 (LLMs) 与网络安全的融合，综合了来自网络安全、人工智能、形式化方法和人本设计等领域的跨学科见解。报告审视了 LLMs 在软件与网络安全、5G 漏洞分析以及生成式安全工程中的新兴应用。报告强调了智能体式 LLMs 在自动化复杂任务、提高运营效率以及实现推理驱动的安全分析方面的作用。与 LLMs 部署相关的社会技术挑战——包括信任、透明度和伦理考量——可以通过诸如人机协同系统、角色特定培训和主动鲁棒性测试等策略来应对。报告进一步概述了在确保基于 LLM 的系统（尤其是在高风险领域）的可解释性、安全性和公平性方面的关键研究挑战。通过将技术进步与组织和社会考量相结合，本报告为在网络安全领域安全有效地采用 LLMs 提出了一个前瞻性的研究议程。
引用
@article{arxiv.2505.00841,
title = {From Texts to Shields: Convergence of Large Language Models and Cybersecurity},
author = {Tao Li and Ya-Ting Yang and Yunian Pan and Quanyan Zhu},
journal= {arXiv preprint arXiv:2505.00841},
year = {2025}
}