LIFT:用于任务无关性与数据无关性编码的潜在隐式函数
机器学习
2025-03-20 v1 计算机视觉与模式识别
摘要
隐式神经表示(INR)正在成为统一不同数据领域中任务建模的强大范式,具有内存效率和分辨率独立性等关键优势。传统深度学习模型通常依赖于模态,常需为不同类型的信号定制架构和目标。然而,现有INR框架常依赖全局潜在向量或存在计算效率问题,限制了其更广泛的适用性。我们引入LIFT,一个新型高性能框架,通过元学习捕获多尺度信息以解决这些挑战。LIFT利用多个平行的局部隐式函数,结合层次化潜在生成器,生成跨越局部、中间和全局特征的统一潜在表示。该架构促进局部区域间的平滑过渡,增强表达能力同时保持推理效率。此外,我们引入ReLIFT,这是LIFT的一个增强型变体,融合残差连接和高表达频率编码。通过这种简洁的方法,ReLIFT有效解决了类似方法中存在的收敛-容量差距,提供一种高效且强大的解决方案,以提升容量并加速收敛。实验结果表明,LIFT在生成模型和分类任务中实现了最先进(SOTA)性能,计算成本显著降低。此外,在单任务设置下,简化的ReLIFT架构在信号表示和逆问题任务中同样表现出色。
引用
@article{arxiv.2503.15420,
title = {LIFT: Latent Implicit Functions for Task- and Data-Agnostic Encoding},
author = {Amirhossein Kazerouni and Soroush Mehraban and Michael Brudno and Babak Taati},
journal= {arXiv preprint arXiv:2503.15420},
year = {2025}
}