网络安全中组织对生成式人工智能的适应性:一项系统综述
密码学与安全
2025-06-17 v1 人工智能
计算机与社会
摘要
网络安全组织正在通过修改框架和混合运营流程来适应生成式人工智能(GenAI)的整合,其成功受到现有安全成熟度、法规要求以及对人力资本和基础设施投资的影响。本定性研究采用系统文献分析和比较案例研究方法,考察网络安全组织如何调整其威胁建模框架和运营流程以应对生成式人工智能的整合。通过对 2022 年至 2025 年间的 25 项研究进行审查,该研究记录了组织在威胁建模方法上的重大转变,从传统的基于签名的系统转向融入人工智能能力的框架。该研究识别出三种主要适应模式:用于安全应用的大语言模型整合、用于风险检测和响应自动化的 GenAI 框架,以及用于威胁狩猎的 AI/ML 整合。具有成熟安全基础设施的组织,特别是在金融和关键基础设施领域,通过结构化治理方法、专门的 AI 团队和强大的事件响应流程展现出更高的就绪度。当组织保持对自动化系统的适当人工监督、解决数据质量和可解释性要求,并建立针对其特定领域的治理框架时,能够成功实现 GenAI 整合。组织在隐私保护、偏见减少、人员培训以及防御对抗攻击方面持续面临困难。本研究推进了对组织如何在高风险环境中采用创新技术的理解,并为实施 GenAI 系统的网络安全专业人员提供了可操作的见解。
引用
@article{arxiv.2506.12060,
title = {Organizational Adaptation to Generative AI in Cybersecurity: A Systematic Review},
author = {Christopher Nott},
journal= {arXiv preprint arXiv:2506.12060},
year = {2025}
}
备注
38 pages, 1 table, 1 figure