SpearBot：利用大语言模型在生成-批判框架中生成鱼叉式网络钓鱼邮件
密码学与安全
2024-12-17 v1
摘要
大语言模型的能力日益增强，可辅助诸如内容生成等任务，但它们也带来风险，特别是在生成有害的鱼叉式网络钓鱼邮件方面。这些邮件旨在诱使点击恶意 URL，威胁个人信息安全。本文提出了一种对抗框架 SpearBot，其利用 LLM 生成具有各种钓鱼策略的鱼叉式网络钓鱼邮件。通过特定构造的越狱提示，SpearBot 规避了安全策略，并引入其他 LLM 实例作为批判者。当钓鱼邮件被批判者识别时，SpearBot 根据批判反馈优化生成的邮件，直到其不再被识别为钓鱼邮件，从而增强其欺骗性。为评估 SpearBot 的有效性，我们实现了多种基于机器的防御器，并评估了所生成的钓鱼邮件能在多大程度上欺骗它们。结果表明，这些邮件在很大程度上常能规避检测，凸显了其欺骗性。此外，通过问卷调查对邮件的可读性与欺骗性进行了人工评估，证实了其说服力及所生成钓鱼邮件的显著潜在危害。
引用
@article{arxiv.2412.11109,
title = {SpearBot: Leveraging Large Language Models in a Generative-Critique Framework for Spear-Phishing Email Generation},
author = {Qinglin Qi and Yun Luo and Yijia Xu and Wenbo Guo and Yong Fang},
journal= {arXiv preprint arXiv:2412.11109},
year = {2024}
}