MoEC：混合专家的隐式神经压缩
计算机视觉与模式识别
2023-12-05 v1 机器学习
图像与视频处理
摘要
新兴的隐式神经表示（Implicit Neural Representation, INR）是一种很有前景的数据压缩技术，它利用深度神经网络（Deep Neural Network, DNN）的参数来表示数据。现有方法手动将复杂场景划分为局部区域，并将 INR 过拟合到这些区域中。然而，为复杂场景手动设计划分方案极具挑战性，且无法联合学习划分方案和 INR。为了解决这一问题，我们提出了 MoEC，一种基于混合专家理论的新型隐式神经压缩方法。具体而言，我们使用门控网络自动将特定的 INR 分配给场景中的 3D 点。门控网络与不同局部区域的 INR 联合训练。与块状和树状划分相比，我们的可学习划分能够以端到端的方式自适应地找到最优划分。我们在海量且多样的生物医学数据上进行了详细实验，以展示 MoEC 相对于现有方法的优势。在大多数实验设置中，我们取得了 state-of-the-art 的结果。特别是在 6000x 等极端压缩比的情况下，我们能够保持 48.16 的 PSNR。
引用
@article{arxiv.2312.01361,
title = {MoEC: Mixture of Experts Implicit Neural Compression},
author = {Jianchen Zhao and Cheng-Ching Tseng and Ming Lu and Ruichuan An and Xiaobao Wei and He Sun and Shanghang Zhang},
journal= {arXiv preprint arXiv:2312.01361},
year = {2023}
}