基于 AI 的模型在在线欺诈检测与分析中的应用

欺诈是一种普遍的犯罪行为，其影响不仅限于经济损失，还会对受害者造成心理和生理伤害。在线通信技术的进步使得在线欺诈在这个庞大的网络中泛滥，欺诈者越来越多地利用这些渠道进行欺骗。随着 AI 等技术的进步，人们越来越担心欺诈会利用复杂的方法（例如网络钓鱼活动中的深度伪造）扩大规模，而这些方法都是由 ChatGPT 等语言生成模型生成的。然而，AI 在检测和分析在线欺诈中的应用仍然研究不足。我们对用于在线欺诈检测的 AI 和 NLP 技术进行了系统文献综述。该综述遵循 PRISMA-ScR 协议，资格标准包括与在线欺诈的相关性、文本数据的使用以及 AI 方法论。我们筛选了 2,457 条学术记录，350 条符合我们的资格标准，并纳入了 223 条。我们报告了用于分析各种在线欺诈类别的 SOTA NLP 技术；训练数据源；构建的 NLP 算法和模型；以及用于模型评估的性能指标。我们发现当前关于在线欺诈的研究被划分为各种诈骗活动，并确定了研究人员关注的 16 种不同欺诈类型。该 SLR 增强了学术界对基于 AI 的在线欺诈检测方法的理解，并为政策制定者、执法机构和企业提供了防范此类活动的见解。我们得出结论，专注于特定诈骗缺乏泛化能力，因为不同的欺诈类型需要多个模型。诈骗的不断演变性质限制了在过时数据上训练的模型的有效性。我们还发现了数据局限性、训练偏差报告以及模型性能报告中指标选择性呈现的问题，这可能导致模型评估中的潜在偏差。