噪声预训练对隐式神经表示的意外有效性

Kushal Vyas; Alper Kayabasi; Daniel Kim; Vishwanath Saragadam; Ashok Veeraraghavan; Guha Balakrishnan

噪声预训练对隐式神经表示的意外有效性

计算机视觉与模式识别 2026-04-01 v1 图像与视频处理

作者: Kushal Vyas , Alper Kayabasi , Daniel Kim , Vishwanath Saragadam , Ashok Veeraraghavan , Guha Balakrishnan

摘要

隐式神经表示 (INR) 的逼近与收敛性质对参数初始化策略极其敏感。虽然several data-driven 初始化方法相较于标准随机采样显示显著改进，但其成功原因—— Specifically, 是否编码经典统计信号先验或更复杂特征——仍不为人所理解。本研究通过一系列实验分析探索了这一现象，利用噪声预训练。我们在多样化噪声类别 (如高斯噪声、Dead Leaves、光谱噪声) 上预训练 INR，并衡量其拟合未见信号的能力以及为逆向成像任务 (去噪) 编码先验的能力。我们的分析在图像和视频数据上揭示了一个令人惊讶的发现：仅在无结构噪声 (均匀分布、高斯分布) 上预训练即可显著提升信号拟合能力，优于所有其他基线方法。然而，无结构噪声也导致在去噪方面表现不佳的深度图像先验。相比之下，我们还发现具有自然图像典型 $1/|f^\alpha|$ 谱结构的噪声在信号拟合和逆向成像能力之间实现了优秀的平衡，性能与最佳 data-driven 初始化方法相当。这一发现使得在缺乏充足领域特定数据的情况下的 INR 训练更为高效。欲了解更多详情，请访问项目页面 https://kushalvyas.github.io/noisepretraining.html

关键词

隐式神经表示噪声预训练信号拟合逆向成像深度图像先验

引用

@article{arxiv.2603.29034,
  title  = {The Surprising Effectiveness of Noise Pretraining for Implicit Neural Representations},
  author = {Kushal Vyas and Alper Kayabasi and Daniel Kim and Vishwanath Saragadam and Ashok Veeraraghavan and Guha Balakrishnan},
  journal= {arXiv preprint arXiv:2603.29034},
  year   = {2026}
}

备注

Accepted to CVPR 2026. Project page: https://kushalvyas.github.io/noisepretraining.html

噪声预训练对隐式神经表示的意外有效性

摘要

关键词

引用

备注

相关论文