探寻加速神经场训练的数据变换

神经场是一种新兴的数据表示范式，通过训练神经网络来逼近给定信号。阻碍其广泛应用的一个关键障碍是编码速度——生成神经场需要对神经网络过拟合，这可能需要大量 SGD 步数才能达到期望的保真度水平。本文深入探究数据变换对神经场训练速度的影响，特别关注像素位置置换如何影响 SGD 的收敛速度。与直觉相反，我们发现随机置换像素位置可显著加速训练。为解释该现象，我们从 PSNR 曲线、损失景观和误差模式的角度审视神经场训练。分析表明，随机像素置换去除了易于拟合的模式，这些模式虽利于早期轻松优化，却阻碍了对信号精细细节的捕捉。