SCRIPTMIND：面向基于 LLM 的社会工程诈骗检测系统的犯罪脚本推断与认知评估
人工智能
2026-01-21 v1
摘要
社会工程诈骗日益采用个性化、多轮欺骗，暴露了传统检测方法的局限性。尽管大型语言模型（LLM）在识别欺骗方面展现出潜力，但其认知辅助潜力仍有待探索。我们提出了 ScriptMind，一个基于 LLM 的诈骗检测集成框架，连接了自动推理与人类认知。它包含三个组件：用于诈骗推理的犯罪脚本推断任务（CSIT）、用于微调小型 LLM 的犯罪脚本感知推断数据集（CSID），以及用于评估实时认知影响的社会工程防御认知模拟评估（CSED）。利用 571 个韩国电话诈骗案例，我们构建了 22,712 个结构化的诈骗者序列训练实例。实验结果表明，使用 ScriptMind 微调的 11B 小型 LLM 在检测准确率、误报率降低、诈骗者话语预测和理由质量上超越了 GPT-4o 13%，实现了优于商业模型的性能。此外，在电话诈骗模拟实验中，它显著增强并维持了用户的怀疑水平，提高了他们对诈骗的认知意识。ScriptMind 代表了迈向以人为中心、具备认知适应性的诈骗防御 LLM 的一步。
引用
@article{arxiv.2601.13581,
title = {SCRIPTMIND: Crime Script Inference and Cognitive Evaluation for LLM-based Social Engineering Scam Detection System},
author = {Heedou Kim and Changsik Kim and Sanghwa Shin and Jaewoo Kang},
journal= {arXiv preprint arXiv:2601.13581},
year = {2026}
}
备注
This paper has been accepted to the EACL 2026 Industry Track