FraudBench：用于检测AI生成欺诈性退款证据的多模态基准
计算机视觉与模式识别
2026-05-12 v1 人工智能
密码学与安全
摘要
人工智能(AI)生成的图像日益逼真且易于适应具体现实主张，为验证视觉证据带来了新挑战。一个具体的新兴风险是AI生成的退款欺诈，即使用操纵或合成图像支持关于损坏产品、差劲递送条件或服务相关缺陷的索赔。现有的AI生成图像检测基准主要评估独立身份分类、跨生成器迁移或 Forensic 定位，未充分探讨 claim 条件化的欺诈性证据检测。为填补这一空白，我们引入FraudBench——一个用于检测AI生成欺诈性退款证据的多模态基准。FraudBench由真实用户评论证据构建而成，覆盖电子商务、食品配送和旅游服务场景。我们筛选出真实证据图像及其关联的评论和产品元数据，通过MALL-assisted过滤识别真实损坏与未损坏证据，并使用六种最先进的图像编辑和生成模型从真实未损坏参考图像上合成假冒损坏证据。使用FraudBench，我们在统一设置下评估了MLLMs、专业AI生成图像检测器和人类参与者。实验显示，当前MLLMs常在识别真实损坏证据方面表现良好，但在许多假冒损坏子集上表现不足，大多数生成器子集的假冒损坏检测率(TPR)远低于50%的基准。专业检测器通常表现更好，但在不同生成器之间不一致，可能对真实损坏样本产生误报。这揭示了通用AI图像检测与可靠的 claim 条件化退款证据验证之间存在明显差距。
引用
@article{arxiv.2605.08820,
title = {FraudBench: A Multimodal Benchmark for Detecting AI-Generated Fraudulent Refund Evidence},
author = {Xinyu Yan and Boyang Chen and Jiaming Zhang and Tiantong Wu and Hong Xi Tae and Yichen He and Tiantong Wang and Yachun Mi and Yurong Hao and Yilei Zhao and Lei Xiao and Longtao Huang and Pengjun Xie and Wei Liu and Wei Yang Bryan Lim},
journal= {arXiv preprint arXiv:2605.08820},
year = {2026}
}