用于鱼叉式网络钓鱼检测的提示上下文向量
机器学习
2024-12-25 v3 计算与语言
密码学与安全
摘要
鱼叉式网络钓鱼攻击构成了重大的安全挑战，大语言模型（LLM）通过生成令人信服的电子邮件并协助目标侦察，加剧了这一威胁。为解决此问题，我们提出了一种基于新颖文档向量化方法的检测方案，该方法利用 LLM 集成来创建表示向量。通过提示 LLM 对人类 crafted 的问题进行推理和回应，我们量化了电子邮件内容中常见说服原则的存在，从而为下游监督机器学习模型生成提示上下文文档向量。我们使用由专有系统生成的独特数据集评估了我们的方法，该系统自动化了目标侦察和鱼叉式网络钓鱼邮件的创建。我们的方法在识别 LLM 生成的鱼叉式网络钓鱼邮件方面达到了 91% 的 F1 分数，而训练集仅包含传统网络钓鱼和良性邮件。主要贡献包括一种利用 LLM 推理的新颖文档向量化方法、一个公开的高质量鱼叉式网络钓鱼邮件数据集，以及我们方法在检测此类邮件方面的有效性证明。该方法可用于各种文档分类任务，特别是在对抗性问题领域。
引用
@article{arxiv.2402.08309,
title = {Prompted Contextual Vectors for Spear-Phishing Detection},
author = {Daniel Nahmias and Gal Engelberg and Dan Klein and Asaf Shabtai},
journal= {arXiv preprint arXiv:2402.08309},
year = {2024}
}