SoK: AI的进攻潜力
密码学与安全
2025-01-27 v4 人工智能
计算机与社会
机器学习
摘要
我们社会日益从人工智能(AI)中获益。不幸的是，越来越多的证据表明AI也被用于进攻目的。先前的工作揭示了AI部署可导致安全和隐私目标受限的各种用例。然而，尚无任何工作能够全面描绘AI的进攻潜力。在本SoK论文中，我们寻求为对AI异构能力的系统性分析奠定基础。具体而言，我们(i)同时考虑AI对人类和系统的风险，同时(ii)来自学术文献、专家意见、工业场所以及普通人民的知识——所有这些都是关于AI进攻用途的宝贵信息来源。为实现此类多源知识的对齐，我们构思了一个反映与AI进攻相关的关键技术因素的通用准则。凭借这些准则，我们系统性地分析了95篇研究论文、38份InfoSec简报(例如来自BlackHat)、一次用户研究(549名具有不同背景和专业知识的个体)的回复，以及12位专家的意见。我们的贡献不仅揭示了一些当今AI可被进攻性地使用的 concerning方式(其中一些被先前工作忽略)，而且为在未来几年中应对这一威胁奠定了基础。
引用
@article{arxiv.2412.18442,
title = {SoK: On the Offensive Potential of AI},
author = {Saskia Laura Schröer and Giovanni Apruzzese and Soheil Human and Pavel Laskov and Hyrum S. Anderson and Edward W. N. Bernroider and Aurore Fass and Ben Nassi and Vera Rimmer and Fabio Roli and Samer Salam and Ashley Shen and Ali Sunyaev and Tim Wadhwa-Brown and Isabel Wagner and Gang Wang},
journal= {arXiv preprint arXiv:2412.18442},
year = {2025}
}
备注
Systematization of Knowledge (SoK) paper. Accepted to the 3rd IEEE Conference on Secure and Trustworthy Machine Learning (SaTML'25)