追逐过度与欠参数化深度图像先验之间更好的平衡

深度神经网络（DNN）众所周知地作为过度参数化的深度图像先验（DIP），用于正规化各种图像逆问题。与此同时，研究人员还提出了极其紧凑、欠参数化的图像先验（例如 deep decoder），尽管牺牲了准确性，却同样在图像修复方面表现出色。这两种极端推动我们思考是否存在更好的解决方案：在过度和欠参数化图像先验之间，能否识别出在性能、效率乃至保持强大迁移性之间实现更好权衡的“中间”参数化图像先验？drawing inspiration from the lottery ticket hypothesis (LTH)，我们推测并研究一种新的“lottery image prior”（LIP），通过利用 DNN 固有的稀疏性实现：给定过度参数化的 DNN 图像先验，它将包含一个稀疏子网络，可在孤立训练时匹配原始 DNN 的性能，当作为先验应用于各种图像逆问题时。我们的结果验证了 LIP 的优越性：我们成功地在相当大的稀疏范围内定位 LIP 子网络。这些 LIP 子网络在相当紧凑的模型规模下（通常完全保留其过度参数化对应项的有效性）优于 deep decoder，并且它们还具备高迁移性，可跨不同图像以及不同的恢复任务类型。此外，我们还将 LIP 扩展到压缩感知图像重建，在该情境下使用预训练的 GAN 生成器作为先验（与未经训练的 DIP 或 deep decoder 不同），并确认了在该设置下的有效性。到我们的最佳知识了解，这是首次将 LTH 证明在逆问题或图像先验的背景下具有相关性。