通过模型重编程泛化至样本外退化
计算机视觉与模式识别
2024-03-12 v1
摘要
现有的图像复原模型通常针对特定任务设计,难以泛化至训练期间未遇到的样本外退化。虽然零样本方法可以通过在测试样本上微调模型参数来解决这一局限性,但其有效性依赖于预定义的自然先验和特定退化的物理模型。然而,确定现实场景中面临的样本外退化总是不切实际的。因此,训练具有内在泛化能力的复原模型更为理想。为此,本文引入了样本外复原(OSR)任务,旨在开发能够处理样本外退化的复原模型。一种直观的解决方案是将样本外退化预转换为复原模型已知的退化。然而,直接在图像空间中转换它们可能导致复杂的图像转换问题。为了解决这个问题,我们提出了一种模型重编程框架,通过量子力学和波函数来转换样本外退化。具体而言,输入图像被解耦为振幅和相位项的波函数。样本外退化的转换通过调整相位项来执行。同时,图像内容在振幅项中得到保持和增强。通过将这两项作为输入,复原模型能够在不进行微调的情况下处理样本外退化。通过在多个评估案例中的大量实验,我们证明了所提框架的有效性和灵活性。我们的代码可在 \href{https://github.com/ddghjikle/Out-of-sample-restoration}{Github} 获取。
引用
@article{arxiv.2403.05886,
title = {Generalizing to Out-of-Sample Degradations via Model Reprogramming},
author = {Runhua Jiang and Yahong Han},
journal= {arXiv preprint arXiv:2403.05886},
year = {2024}
}