领域知识增强的大语言模型用于欺诈和概念漂移检测
计算与语言
2026-05-27 v1 人工智能
摘要
由于语言模式的演变和概念漂移（CD）——即随时间改变交互上下文或意图的语义或主题转变，在动态平台上检测欺骗性对话变得越来越困难。这些转变可能掩盖恶意意图或模仿正常对话，使准确分类具有挑战性。虽然大语言模型（LLMs）在自然语言任务中表现出强大性能，但它们在高风险场景中常常难以应对上下文歧义和幻觉。为应对这些挑战，我们提出了一个领域知识（DK）增强的LLM框架，将预训练LLM与结构化的、任务特定的见解集成，以执行欺诈和概念漂移检测。所提出的架构由三个主要组件组成：（1）一个DK-LLM模块，用于检测虚假或欺骗性对话；（2）一个漂移检测单元（OCDD），用于确定是否发生了语义转变；以及（3）第二个DK-LLM模块，用于将漂移分类为良性或欺诈性。我们首先使用虚假评论数据集验证领域知识的价值，然后将我们的完整框架应用于SEConvo，一个包含各种类型欺诈和垃圾邮件攻击的多轮对话数据集。结果表明，我们的系统以高精度检测虚假对话，并有效分类漂移的性质。在结构化提示的引导下，基于LLaMA的实现达到了98%的分类准确率。与零样本基线的对比研究表明，结合领域知识和漂移意识显著提高了高风险NLP应用中的性能、可解释性和鲁棒性。
引用
@article{arxiv.2506.21443,
title = {Domain Knowledge-Enhanced LLMs for Fraud and Concept Drift Detection},
author = {Ali Şenol and Garima Agrawal and Huan Liu},
journal= {arXiv preprint arXiv:2506.21443},
year = {2026}
}