DejAIvu：基于注意力图的实时识别和解释网页中的 AI 艺术
计算机视觉与模式识别
2025-05-09 v2 人工智能
机器学习
摘要
生成模型（如扩散模型和生成对抗网络（GAN））的近期崛起导致了各类领域上 AI 生成图像在网络上的惊人增长。尽管这些技术提供了诸如赋能艺术创作等便利，但也带来了误信息、数字伪造和真实性验证等挑战。此外，未经许可的 AI 生成图像被用于媒体和营销已引发线上社区的强烈反弹。为此，我们引入 DejAIvu，一个结合实时 AI 生成图像检测与基于注意力图的可解释性的 Chrome 网页扩展程序。使用经过 ONNX 优化的深度学习模型，DejAIvu 自动分析网站上的图像（如 Google Images），通过模型推断识别 AI 生成内容，并叠加注意力热力图以突出显示 AI 相关痕迹。我们的方法集成了高效的浏览器内推理、基于梯度的注意力分析以及无缝的用户体验，确保 AI 检测在透明且可解释方面表现出色。我们还在多个预训练架构和基准数据集上评估了 DejAIvu，证明其具有高准确率和低延迟，使其成为实用且可部署的工具，用于提升 AI 图像的问责制。本系统的代码可在 https://github.com/Noodulz/dejAIvu 查找。
引用
@article{arxiv.2502.08821,
title = {DejAIvu: Identifying and Explaining AI Art on the Web in Real-Time with Saliency Maps},
author = {Jocelyn Dzuong},
journal= {arXiv preprint arXiv:2502.08821},
year = {2025}
}
备注
5 pages, 3 figures. Accepted to IJCAI 2025 Demo Track. Revised version will be uploaded soon