6G 安全中的大语言模型：挑战与机遇

生成式人工智能 (GenAI) 与大语言模型 (LLMs) 在教育、医疗等领域的快速融合标志着技术的重大进步。然而，这种增长也带来了一个很大程度上未被探索的方面：它们的安全漏洞。随着包含离线和在线模型、各种工具、浏览器插件及第三方应用的生态系统持续扩展，攻击面显著扩大，从而加剧了安全漏洞的潜在风险。在 6G 及更远时代的图景中，这些扩展为对手出于恶意目的操纵大语言模型提供了新途径。我们从潜在对手的视角聚焦于大语言模型的安全方面，旨在剖析其目标与方法论，对已知安全弱点进行深入分析。这将包括开发一个全面的威胁分类法，对各种对手行为进行分类。同时，我们的研究将关注防御团队（即蓝队）如何将大语言模型整合到网络安全工作中。我们将探索大语言模型与区块链技术之间的潜在协同作用，以及这种结合如何催生下一代完全自主的安全解决方案。该方法旨在建立跨越整个计算连续体的统一网络安全策略，从而增强整体数字安全基础设施。