模仿游戏：将大型语言模型用作聊天机器人以对抗聊天式网络犯罪
密码学与安全
2025-12-29 v1
摘要
聊天式网络犯罪日益成为一种普遍威胁，攻击者利用实时 messaging 平台进行依赖信任建立、欺骗和心理操纵的诈骗。传统防御机制基于静态规则或浅层内容过滤，难以识别这些对话威胁，尤其当攻击者使用多媒体混淆和 context-aware 对话时。本文提出了一个 provocative 的问题，灵感来自经典的模仿游戏：机器能否令人信服地扮演人类受害者，以将欺骗反向转化为针对网络犯罪者的手段？我们提出了 LURE（LLM-based User Response Engagement），首个部署大型语言模型（LLM）作为主动代理、嵌入对抗性聊天环境的系统。LURE 结合了自动发现、对抗性互动和基于OCR的图像嵌入支付数据分析。应用于Telegram 上非法视频聊天诈骗的场景，系统在98个群体中与53名行为者进行交互。在超过56%的互动中，LLM能够在未被察觉为机器人的情况下进行多轮对话，成功“赢得”模仿游戏。我们的发现揭示了诈骗操作中的关键行为模式，如支付流程、upselling策略和平台迁移 tactics。
引用
@article{arxiv.2512.21371,
title = {The Imitation Game: Using Large Language Models as Chatbots to Combat Chat-Based Cybercrimes},
author = {Yifan Yao and Baojuan Wang and Jinhao Duan and Kaidi Xu and ChuanKai Guo and Zhibo Eric Sun and Yue Zhang},
journal= {arXiv preprint arXiv:2512.21371},
year = {2025}
}