ASMR: 用于高效推理的激活共享多分辨率坐标网络
机器学习
2024-05-22 v1
摘要
坐标网络或隐式神经表示（INR）是一种快速兴起的方法，用于编码自然信号（如图像和视频），具有紧凑神经表示的优势。尽管已经提出了许多方法来提高INR的编码能力，但一个经常被忽视的方面是推理效率，通常以乘累加（MAC）计数来衡量。这在推理吞吐量受到硬件限制的使用场景中尤为关键。为此，我们提出了激活共享多分辨率（ASMR）坐标网络，它结合了多分辨率坐标分解与分层调制。具体来说，ASMR模型允许在数据网格之间共享激活。这将其推理成本与其深度（与其重建能力直接相关）在很大程度上解耦，并实现了近乎O(1)的推理复杂度，与层数无关。实验表明，ASMR可以将普通SIREN模型的MAC减少高达500倍，同时实现比其SIREN基线更高的重建质量。
引用
@article{arxiv.2405.12398,
title = {ASMR: Activation-sharing Multi-resolution Coordinate Networks For Efficient Inference},
author = {Jason Chun Lok Li and Steven Tin Sui Luo and Le Xu and Ngai Wong},
journal= {arXiv preprint arXiv:2405.12398},
year = {2024}
}
备注
ICLR 2024 (v3: 21 pages, 11 figures, Project Page: https://github.com/stevolopolis/asmr.git)