针对采用生成式 AI 的相机处理图像真实性问题
计算机视觉与模式识别
2026-04-24 v1 人工智能
摘要
生成式 AI (GenAI) 方法能够逼真地改变相机图像，提升了对在线上共享图像真实性的关注度。有趣的是，由相机直接捕获的图像被视为真实可信的。然而，随着深度学习模块日益集成到相机捕获时硬件中——即图像信号处理器 (ISP)——，现象图像直接输出的图像中潜在存在幻觉内容。幻觉捕获时图像内容通常是良性的，例如增强边缘或纹理，但在某些操作中，例如基于 AI 的数字变焦或低光图像增强，幻觉内容可能改变图像内容的语义和解释。结果是，用户可能意识不到自己相机图像中的内容并不真实。本文通过启用用户恢复相机图像的“未幻觉”版本来解决此问题，以避免对图像内容的误解。我们的做法通过优化与图像特定的多层感知器 (MLP) 解码器以及特定模态的编码器，使得给定相机图像即可恢复幻觉内容被添加前的图像。编码器和 MLP 是自包含的，可在捕获后应用于图像，而无需访问相机 ISP。此外，编码器和 MLP 解码器仅需 180 KB 存储空间，可轻易保存为 JPEG 和 HEIC 等标准图像格式中的元数据。
引用
@article{arxiv.2604.21879,
title = {Addressing Image Authenticity When Cameras Use Generative AI},
author = {Umar Masud and Abhijith Punnappurath and Luxi Zhao and David B. Lindell and Michael S. Brown},
journal= {arXiv preprint arXiv:2604.21879},
year = {2026}
}
备注
To appear in CVPR 2026 Workshop on Authenticity and Provenance in the Age of Generative AI