中文

深度最优传输:一种用于照片级真实图像复原的实用算法

人工智能 2024-08-13 v2

摘要

我们提出一种图像复原算法,可控制任意预训练模型的感知质量与/或均方误差(MSE),并在测试时于二者间权衡。我们的算法为少样本式:给定约十数张由该模型复原的图像,它便能在无需进一步训练的情况下,显著提升模型对新复原图像的感知质量与/或 MSE。我们的方法受近期一个理论结果的启发,该结果关联了最小 MSE(MMSE)预测器与在完美感知质量约束下最小化 MSE 的预测器。具体而言,已证明后者可通过最优传输前者的输出、使其分布匹配源数据而获得。因此,为提升原本以最小化 MSE 训练的预测器的感知质量,我们在变分自编码器的潜空间中以线性变换近似最优传输,并使用经验均值与协方差以闭式计算。超越理论,我们发现对最初为获得高感知质量而训练的模型施加相同流程,通常可进一步改善其感知质量。并且,通过将结果与模型原始输出插值,我们得以牺牲感知质量为代价改善其 MSE。我们在应用于任意维度通用内容图像的多种退化上展示了我们的方法。

关键词

引用

@article{arxiv.2306.02342,
  title  = {Deep Optimal Transport: A Practical Algorithm for Photo-realistic Image Restoration},
  author = {Theo Adrai and Guy Ohayon and Tomer Michaeli and Michael Elad},
  journal= {arXiv preprint arXiv:2306.02342},
  year   = {2024}
}