面向高保真隐式神经表征的秩优化
计算机视觉与模式识别
2025-12-17 v1
摘要
基于vanilla多层感知器（MLP）的隐式神经表征（INR）被广泛认为无法表示高频内容。这一观点引导了研究者向坐标嵌入或专用激活函数等结构性干预寻求途径以表示高频信号。本文挑战了vanilla MLP的低频偏好是固有结构性限制无法学习高频内容的命题，而应视为训练期间稳定秩降解的症状。我们实证证明，通过调节网络在训练期间的秩，可显著提升所学信号的保真度，甚至使简单MLP架构具备表达能力。广泛的实验表明，使用如Muon等具有高秩、接近正交更新的优化器，能持续提升INR架构的表达能力，超出简单ReLU MLP。这些显著改进适用于多样化领域，包括自然图像、医学图像和新视角合成，相较于前一最先进方法可实现最高达9 dB的PSNR提升。我们的项目页面（包含代码和实验结果）可在 https://muon-inrs.github.io 访问。
引用
@article{arxiv.2512.14366,
title = {Optimizing Rank for High-Fidelity Implicit Neural Representations},
author = {Julian McGinnis and Florian A. Hölzl and Suprosanna Shit and Florentin Bieder and Paul Friedrich and Mark Mühlau and Björn Menze and Daniel Rueckert and Benedikt Wiestler},
journal= {arXiv preprint arXiv:2512.14366},
year = {2025}
}