基于 LLM 辅助判断的在线对话中欺诈与概念漂移联合检测
计算与语言
2025-05-14 v1 人工智能
机器学习
摘要
检测数字通信平台中的虚假交互仍是一个受关注不足且解决不充分的问题。这些交互可能表现为看似无害的垃圾信息，或演变为复杂的诈骗尝试，使及时识别恶意意图变得困难。传统检测方法常依赖静态异常检测技术，难以适应动态的对话变化。一个关键限制是将良性话题转换误解为概念漂移，导致出现误报或漏报。我们提出了一个两阶段检测框架：首先使用量身定制的集成分类模型识别可疑对话。为提高检测可靠性，我们采用 One Class Drift Detector（OCDD）进行概念漂移分析，以隔离被标记对话中的对话漂移。当检测到漂移时，大语言模型（LLM）评估该漂移是否表示欺诈性操纵或合法的话题更改。在未检测到漂移的情况下，推断行为为类似垃圮信息。我们使用社交工程聊天情景数据集进行验证，展示了该框架在提高实时欺诈检测准确性和可解释性方面的实际优势。为阐明权衡，我们将模块化方法与执行检测与判断不同语言模型的 Dual LLM 基线进行比较。
关键词
引用
@article{arxiv.2505.07852,
title = {Joint Detection of Fraud and Concept Drift inOnline Conversations with LLM-Assisted Judgment},
author = {Ali Senol and Garima Agrawal and Huan Liu},
journal= {arXiv preprint arXiv:2505.07852},
year = {2025}
}