进攻性 AI 对组织的威胁
人工智能
2021-07-01 v1 密码学与安全
计算机与社会
机器学习
摘要
AI 已使我们能够自动化任务、从海量数据中提取信息，并合成几乎与真实事物无法区分的媒体。然而，正向工具也可能被用于负面目的。特别是，网络对手可以利用 AI（如机器学习）来增强其攻击并扩大其活动。尽管进攻性 AI 过去已被讨论，但仍需在组织背景下分析并理解该威胁。例如，具备 AI 能力的对手如何影响网络杀伤链？AI 对攻击者的助益是否大于防御者？当今组织面临的最显著 AI 威胁是什么，它们对未来有何影响？在本综述中，我们探讨了进攻性 AI 对组织的威胁。首先，我们介绍背景并讨论 AI 如何改变对手的方法、策略、目标和整体攻击模型。然后，通过文献综述，我们识别出对手可用于增强攻击的 33 项进攻性 AI 能力。最后，通过涵盖工业界与学术界的用户研究，我们对 AI 威胁进行排序并提供有关对手的见解。
引用
@article{arxiv.2106.15764,
title = {The Threat of Offensive AI to Organizations},
author = {Yisroel Mirsky and Ambra Demontis and Jaidip Kotak and Ram Shankar and Deng Gelei and Liu Yang and Xiangyu Zhang and Wenke Lee and Yuval Elovici and Battista Biggio},
journal= {arXiv preprint arXiv:2106.15764},
year = {2021}
}