LLM 开启了漏洞利用变现的新途径
密码学与安全
2025-05-19 v1 人工智能
摘要
我们认为，大型语言模型（LLM）将很快改变网络攻击的经济学。LLM 使对手能够针对每个用户发起定制化攻击，而不是攻击最常用的软件并通过瞄准受害者中的最低共同点来变现漏洞利用。在漏洞利用方面，攻击者不再需要人工手动在拥有数百万用户的产品中寻找一个难以识别的漏洞，LLM 可以在拥有数千用户的产品中找到数千个易于识别的漏洞。在变现方面，攻击者不再使用总是执行相同攻击的通用勒索软件（加密所有数据并要求付款以解密），而是由 LLM 驱动的勒索软件攻击可以根据每个被利用设备的具体内容来定制赎金要求。我们展示了这两种攻击（以及其他几种攻击）使用最先进的 LLM 即将变得切实可行。例如，我们证明，在没有任何人工干预的情况下，LLM 在 Enron 电子邮件数据集中发现了高度敏感的个人信息（例如，一位高管与另一名员工有染），这些信息可用于勒索。虽然我们的一些攻击目前仍过于昂贵，无法广泛扩展，但随着 LLM 变得更便宜，实施这些攻击的动机只会增加。因此，我们认为 LLM 产生了对新的纵深防御方法的需求。
引用
@article{arxiv.2505.11449,
title = {LLMs unlock new paths to monetizing exploits},
author = {Nicholas Carlini and Milad Nasr and Edoardo Debenedetti and Barry Wang and Christopher A. Choquette-Choo and Daphne Ippolito and Florian Tramèr and Matthew Jagielski},
journal= {arXiv preprint arXiv:2505.11449},
year = {2025}
}