提高隐式神经表示的精度与效率：让SIREN成为WINNER
计算机视觉与模式识别
2025-09-17 v1 机器学习
摘要
我们识别并解决了正弦表示网络（SIRENs）——一类隐式神经表示——的一个根本性局限。SIRENs（Sitzmann等人，2020）在初始化不当时，可能难以拟合其频率支持范围之外的信号。在极端情况下，当网络的频率支持与目标频谱不匹配时，会观察到“频谱瓶颈”现象，即模型输出趋近于零，甚至无法恢复其表示能力范围内的频率分量。为克服此问题，我们提出了WINNER——带噪声的权重初始化用于神经表示。WINNER用高斯噪声扰动基础SIREN的均匀初始化权重，其噪声尺度由目标信号的频谱质心自适应确定。类似于随机傅里叶嵌入，这减轻了“频谱偏差”，但无需引入额外的可训练参数。我们的方法在音频拟合上达到了最先进的水平，并在图像和3D形状拟合任务上相比基础SIREN取得了显著提升。除了信号拟合，WINNER还为优化深度神经网络训练的自适应、目标感知初始化策略开辟了新途径。代码和数据请访问cfdlabtechnion.github.io/siren_square/。
引用
@article{arxiv.2509.12980,
title = {Improving Accuracy and Efficiency of Implicit Neural Representations: Making SIREN a WINNER},
author = {Hemanth Chandravamsi and Dhanush V. Shenoy and Steven H. Frankel},
journal= {arXiv preprint arXiv:2509.12980},
year = {2025}
}