生成式人工智能技术对网络防御的影响与风险
密码学与安全
2023-06-23 v1 人工智能
摘要
生成式人工智能（GenAI）已成为一项强大的技术，能够自主生成文本、图像、音频和视频等多个领域中高度逼真的内容。凭借其在创意艺术、内容生成、虚拟助手和数据合成等方面的积极应用潜力，GenAI 已获得广泛关注与应用。然而，GenAI 日益广泛的应用也引发了对其可能被滥用的担忧，例如炮制极具迷惑性的钓鱼邮件、通过深度伪造视频制造虚假信息，以及借助看似真实的社交媒体帖子传播错误信息，从而在网络安全领域带来一系列新的挑战与风险。为应对 GenAI 所带来的威胁，我们提出利用网络杀伤链（Cyber Kill Chain, CKC）作为网络防御的基础模型，以理解网络攻击的生命周期。本文旨在全面分析在 CKC 框架各阶段中，GenAI 技术的攻击性使用所引入的风险领域。我们还分析了威胁行为者所采用的策略，并考察其在 CKC 不同阶段的运用，阐明其对网络防御的影响。此外，我们提出了具备攻击感知与自适应能力的 GenAI 赋能防御策略。这些策略涵盖检测、欺骗和对抗训练等多种技术，旨在有效缓解由 GenAI 引发的网络威胁所带来的风险。
引用
@article{arxiv.2306.13033,
title = {Impacts and Risk of Generative AI Technology on Cyber Defense},
author = {Subash Neupane and Ivan A. Fernandez and Sudip Mittal and Shahram Rahimi},
journal= {arXiv preprint arXiv:2306.13033},
year = {2023}
}