激活空间中的模式检测用于识别合成内容
计算机视觉与模式识别
2021-05-28 v2 密码学与安全
机器学习
摘要
生成对抗网络(GANs)近期在从低维随机噪声进行照片级真实感图像合成方面取得了前所未有的成功。大规模合成高质量内容的能力带来了潜在风险,因为生成的样本可能导致错误信息,进而造成严重的社会、政治、健康和商业危害。我们提出 SubsetGAN,通过检测预训练神经网络内层中一组异常的节点激活来识别生成内容。这些节点作为一个整体,最大化了偏离由真实数据产生的激活期望分布的非参数散度度量。这使我们能够在无需事先知道其分布的情况下识别合成图像。SubsetGAN 高效地对边际节点子集进行评分,并返回预训练分类器中贡献于最大评分的节点组。该分类器可以是在多个来源样本上训练的通用假图分类器,也可以是来自不同 GANs 的判别网络。我们的方法在多个最先进的 GANs(PGGAN、StarGAN 和 CycleGAN)上以及不同比例的生成内容下,均显示出比现有检测方法更高的一致检测能力。
引用
@article{arxiv.2105.12479,
title = {Pattern Detection in the Activation Space for Identifying Synthesized Content},
author = {Celia Cintas and Skyler Speakman and Girmaw Abebe Tadesse and Victor Akinwande and Edward McFowland and Komminist Weldemariam},
journal= {arXiv preprint arXiv:2105.12479},
year = {2021}
}
备注
The paper is under consideration at Pattern Recognition Letters