预期、模拟、推理（ASR）：一个用于打击消息诈骗的综合生成式人工智能框架
人机交互
2025-07-28 v2
摘要
消息诈骗的快速增长为用户安全和财务安全带来了日益严峻的挑战。在本文中，我们提出了“预期、模拟、推理”（ASR）生成式人工智能框架，使用户能够在即时通讯平台中主动识别和理解诈骗。利用大语言模型，ASR 预测诈骗者的回应，并向最终用户提供实时的、可解释的支持。我们还开发了 ScamGPT-J，这是一个领域特定的语言模型，在一个涵盖多种诈骗类型的高质量新诈骗对话数据集上进行了微调。全面的实验评估表明，ASR 框架显著增强了诈骗检测能力，尤其是在工作诈骗等具有挑战性的情境中，并揭示了用户脆弱性以及对人工智能生成辅助的感知方面的重要人口统计学模式。我们的发现揭示了一个矛盾：那些风险最高的人往往最不愿意接受人工智能支持，这强调了在以人工智能驱动的欺诈预防中，以用户为中心的设计的重要性。这项工作为在应对不断演变的数字威胁中构建可解释且以人为本的人工智能系统，推进了实践和理论基础。
引用
@article{arxiv.2507.17543,
title = {Anticipate, Simulate, Reason (ASR): A Comprehensive Generative AI Framework for Combating Messaging Scams},
author = {Xue Wen Tan and Kenneth See and Stanley Kok},
journal= {arXiv preprint arXiv:2507.17543},
year = {2025}
}
备注
arXiv admin note: text overlap with arXiv:2412.13528