随机权重网络作为图像复原的损失先验约束
计算机视觉与模式识别
2023-03-30 v1
摘要
本文与现有的数据和模型研究正交，转而致力于从新视角探究损失函数的潜力，并提出我们的观点“随机权重网络可作为图像复原的损失先验约束”。受泛函理论启发，我们在严格数学流形上提供若干替代方案来实现我们的观点，包括泰勒展开网络、可逆神经网络、中心差分卷积和零阶滤波作为“随机权重网络原型”，涉及以下四个层面：1）不同的随机权重策略；2）不同的网络架构，例如纯卷积层或 transformer；3）不同的网络架构深度；4）不同数量的随机权重网络组合。此外，为增强随机初始化流形的能力，我们设计了如下两种随机权重方式：1）整个训练过程中权重仅随机初始化一次；2）每个训练迭代周期权重随机初始化。我们提出的观点可直接插入现有网络而不带来任何训练与测试计算成本。跨多个图像复原任务（包括图像去噪、低光照图像增强、引导图像超分辨率）的大量实验证明了引入我们的观点所获得的一致性能提升。需强调，我们的主要关注点是激发损失函数领域并改变其当前被忽视的状态。代码将公开可用。
引用
@article{arxiv.2303.16438,
title = {Random Weights Networks Work as Loss Prior Constraint for Image Restoration},
author = {Man Zhou and Naishan Zheng and Jie Huang and Xiangyu Rui and Chunle Guo and Deyu Meng and Chongyi Li and Jinwei Gu},
journal= {arXiv preprint arXiv:2303.16438},
year = {2023}
}