隐式神经表示的激活函数采样理论视角
机器学习
2024-02-09 v1
摘要
隐式神经表示(INRs)因将信号编码为紧凑且可微的实体而受到青睐。虽然常用傅里叶位置编码或非传统激活函数（如高斯、正弦或小波）来捕获高频内容，但其性质缺乏统一理论框架的探索。为填补这一空白，我们从采样理论视角对这些激活函数进行了全面分析。我们的研究表明，sinc激活函数（此前未与INRs联合使用）在信号编码中是理论上最优的。此外，我们在采样理论的基础上将动力系统与INRs建立起联系，搭建了这两种范式之间的桥梁。
引用
@article{arxiv.2402.05427,
title = {A Sampling Theory Perspective on Activations for Implicit Neural Representations},
author = {Hemanth Saratchandran and Sameera Ramasinghe and Violetta Shevchenko and Alexander Long and Simon Lucey},
journal= {arXiv preprint arXiv:2402.05427},
year = {2024}
}