利用基于 Transformer 的模型生成伪造网络威胁情报
密码学与安全
2021-06-22 v3 人工智能
摘要
网络防御系统正被开发以自动摄取包含半结构化数据和/或文本的网络威胁情报（CTI）来填充知识图谱。一个潜在风险是，伪造的 CTI 可通过开源情报（OSINT）社区或 Web 生成并传播，对这些系统实施数据投毒攻击。攻击者可使用伪造 CTI 样本作为训练输入来颠覆网络防御系统，迫使模型学习错误输入以满足其恶意需求。本文中，我们利用 transformer 自动生成伪造 CTI 文本描述。我们表明，给定初始提示句，像 GPT-2 这样经微调的公开语言模型可生成看似合理的 CTI 文本，并能破坏网络防御系统。我们利用生成的伪造 CTI 文本对网络安全知识图谱（CKG）和网络安全语料库实施数据投毒攻击。该投毒攻击带来了不良影响，如返回错误推理输出、表示投毒以及污染其他依赖的人工智能网络防御系统。我们采用传统方法评估，并与网络安全专业人员和威胁猎手开展人工评估研究。研究表明，专业威胁猎手认为我们生成的伪造 CTI 为真实情报的可能性相同。
引用
@article{arxiv.2102.04351,
title = {Generating Fake Cyber Threat Intelligence Using Transformer-Based Models},
author = {Priyanka Ranade and Aritran Piplai and Sudip Mittal and Anupam Joshi and Tim Finin},
journal= {arXiv preprint arXiv:2102.04351},
year = {2021}
}
备注
In Proceedings of International Joint Conference on Neural Networks 2021 (IJCNN 2021), July 2021