发送到哪个账户？基于大语言模型的反诈诱饵系统评估
密码学与安全
2025-09-11 v1 人工智能
摘要
诈骗者越来越多地利用生成式人工智能（GenAI）技术大规模生成具有说服力的钓鱼内容，加剧了金融欺诈并削弱了公众信任。虽然传统防御手段（如检测算法、用户培训和被动下架行动）仍然重要，但它们往往不足以瓦解诈骗者所依赖的基础设施，包括骡子银行账户和加密货币钱包。为弥补这一差距，一种主动的新兴策略涉及使用对话蜜罐来引诱诈骗者并提取可操作的威胁情报。本文首次对大规模真实世界场景下基于大语言模型（LLM）的反诈诱饵系统进行了评估。在为期五个月的部署中，该系统与真实诈骗者发起了超过2,600次交互，生成了超过18,700条消息。系统实现了约32%的信息泄露率（IDR），成功提取了骡子账户等敏感财务信息。此外，系统保持了约70%的人工接受率（HAR），表明大语言模型生成的回复与人工操作者偏好高度一致。与此同时，我们的分析揭示了关键的操作挑战。特别是，系统在交互启动方面表现不佳：仅有48.7%的诈骗者对防御者发送的初始种子消息作出了回应。这些发现指出了进一步完善的必要性，并为推进自动化反诈诱饵系统的设计提供了可操作的见解。
引用
@article{arxiv.2509.08493,
title = {Send to which account? Evaluation of an LLM-based Scambaiting System},
author = {Hossein Siadati and Haadi Jafarian and Sima Jafarikhah},
journal= {arXiv preprint arXiv:2509.08493},
year = {2025}
}