面向AI生成图像检测的泛化自适应持续学习框架

AI生成图像的恶意滥用和广泛传播对在线信息的真实性构成了重大威胁。当前的检测方法通常难以泛化到未见过的生成模型，而生成技术的快速演进持续加剧了这一挑战。缺乏适应性，检测模型在现实世界应用中面临失效的风险。为了解决这一关键问题，我们提出了一种新颖的三阶段领域持续学习框架，旨在持续适应不断演进的生成模型。在第一阶段，我们采用一种策略性的参数高效微调方法，开发一个具有强大泛化能力的可迁移离线检测模型。在此基础上，第二阶段将未见过的数据流整合到持续学习过程中。为了从有限的新颖生成模型样本中高效学习并减轻过拟合，我们设计了一个复杂度逐步增加的数据增强链。此外，我们利用克罗内克因子近似曲率（K-FAC）方法来近似海森矩阵并缓解灾难性遗忘。最后，第三阶段利用基于线性模式连通性的线性插值策略，有效捕捉不同生成模型之间的共性，进一步提升整体性能。我们建立了一个包含27个生成模型（包括GAN、深度伪造和扩散模型）的综合基准，按时间顺序构建至2024年8月，以模拟现实世界场景。大量实验表明，我们初始的离线检测器在平均精度均值上超越了领先基线+5.51%。我们的持续学习策略达到了92.20%的平均准确率，优于最先进的方法。