探究贝叶斯垃圾邮件过滤器在检测 LLM 修改的垃圾邮件中的有效性
密码学与安全
2025-05-27 v1
摘要
垃圾邮件和网络钓鱼仍然是网络安全中的关键威胁，近 90% 的安全事件由此引发。随着这些攻击日益复杂，对强大防御机制的需求也日益增强。贝叶斯垃圾邮件过滤器（如被广泛采用的开源 SpamAssassin）是这场斗争中的重要工具。然而，诸如 ChatGPT 等大型语言模型 (LLM) 的出现带来了新的挑战。这些模型不仅强大且易于访问，而且使用成本低廉，引发了人们对其被滥用于制作能够逃避传统垃圾邮件过滤器的复杂垃圾邮件的担忧。本研究旨在评估 SpamAssassin 对抗 LLM 修改的电子邮件内容的鲁棒性和有效性。我们开发了一条流水线来测试此漏洞。我们的流水线使用 GPT-3.5 Turbo 修改垃圾邮件，并评估 SpamAssassin 正确分类这些修改后邮件的能力。结果表明，SpamAssassin 将高达 73.7% 的 LLM 修改的垃圾邮件误判为合法邮件。相比之下，更简单的字典替换攻击的最大成功率仅为 0.4%。这些发现突显了 LLM 修改的垃圾邮件所构成的严重威胁，特别是考虑到此类攻击的成本效益（每封邮件 0.17 美分）。本文提供了关于当前垃圾邮件过滤器漏洞的关键见解，以及持续改进网络安全措施的必要性。
引用
@article{arxiv.2408.14293,
title = {Investigating the Effectiveness of Bayesian Spam Filters in Detecting LLM-modified Spam Mails},
author = {Malte Josten and Torben Weis},
journal= {arXiv preprint arXiv:2408.14293},
year = {2025}
}
备注
EAI International Conference on Digital Forensics & Cyber Crime 2024