ScamGPT-J: 深入诈骗者思维——基于生成式AI的即时消息诈骗对抗方法
人机交互
2024-12-19 v1
摘要
全球手机使用量的增加导致即时消息诈骗激增，造成广泛的社会经济损害，年损失超过5000亿美元。这些诈骗因其跨国性质而给全球司法系统的完整性带来挑战，使法律行动复杂化。诈骗常常利用情感脆弱性，使得许多人难以察觉。为了解决这个问题，我们引入了ScamGPT-J，一个复制诈骗者策略的大型语言模型。与传统的检测和阻止诈骗者的方法不同，ScamGPT-J通过实时模拟诈骗者的回应来帮助用户识别诈骗互动。如果用户收到的消息与ScamGPT-J模拟的回应高度匹配，则表明可能存在诈骗，从而帮助用户更有效地识别和避免诈骗。该模型的有效性通过其与诈骗对话的技术一致性以及用户参与度进行评估。我们的结果表明，ScamGPT-J可以显著帮助保护用户免受消息诈骗的侵害。
引用
@article{arxiv.2412.13528,
title = {ScamGPT-J: Inside the Scammer's Mind, A Generative AI-Based Approach Toward Combating Messaging Scams},
author = {Xue Wen Tan and Kenneth See and Stanley Kok},
journal= {arXiv preprint arXiv:2412.13528},
year = {2024}
}
备注
International Conference on Information Systems 2024