多轮对话中的社会工程化个人化攻击：LLM 代理用于模拟与检测
密码学与安全
2025-09-10 v2 计算与语言
摘要
特别是由大型语言模型 (LLM) 支持的聊天机器人，正在为社交媒体平台上的社会工程 (SE) 攻击带来显著风险。由于对话的动态特性，针对多轮、基于聊天的交互的 SE 检测远比单实例检测复杂得多。缓解这一威胁的关键因素是通过理解 SE 攻击机制来了解攻击如何操作，特别是攻击者如何利用漏洞以及受害者的性格特征如何导致其易受操纵。本 work 提出了一种 LLM 代理框架 SE-VSim，用于生成多轮对话来模拟 SE 攻击机制。我们建模了具有不同性格特征的受害者代理，以评估心理轮廓如何影响其易受操纵程度。使用超过 1000 条模拟对话的数据集，我们检查了攻击情景，其中对手扮演招聘人员、资助机构和记者，试图提取敏感信息。基于这一分析，我们提出了一种概念验证 SE-OmniGuard，旨在利用受害者性格的先验知识、评估攻击策略并监控信息交换，以识别潜在的 SE attempt。
引用
@article{arxiv.2503.15552,
title = {Personalized Attacks of Social Engineering in Multi-turn Conversations: LLM Agents for Simulation and Detection},
author = {Tharindu Kumarage and Cameron Johnson and Jadie Adams and Lin Ai and Matthias Kirchner and Anthony Hoogs and Joshua Garland and Julia Hirschberg and Arslan Basharat and Huan Liu},
journal= {arXiv preprint arXiv:2503.15552},
year = {2025}
}
备注
Accepted as a paper at COLM 2025 Workshop on AI Agents: Capabilities and Safety