大语言模型在监管合规背景下的（不良）安全规范

大语言模型（LLM）的使用正在推动网络安全和数字基础设施提供商的发展。实验性地用于编写系统代码，并且可能被输入敏感数据或本可视为商业秘密的内容。除了这些显而易见的观点之外，本文询问当 AI 用于开发和部署安全基础设施时，AI 如何负面影响网络安全和法律。首先，本文讨论了 LLM 在安全领域的直接或间接使用，以及其他类型的 AI。随后列出了网络安全中的规范，然后列出来自欧盟的各种网络安全法律义务，以建立参考框架。其次，本文描述了 LLM 如何可能无法履行法律义务和网络安全最佳实践，并指出本文结束时对这种发展的经济和实际后果，以及一些解决方案。本文发现，使用 LLM 伴随着许多风险，这些风险大多数都违反了良好的安全实践和安全法规中的法律义务。这主要是由于 LLM 的固有弱点，除非用符号 AI 替代，否则这些弱点大多能被缓解。两者都存在无法履行基本可追溯性义务和实践的问题。解决方案是围绕 LLM 基于 AI 的次要系统，超越法律要求满足安全规范，以及在某些情况下 simply 不使用此类技术。