基于纯整数离散流的快速无损神经压缩
机器学习
2022-06-20 v1 计算机视觉与模式识别
信息论
math.IT
摘要
通过应用带有学习数据分布的熵编解码器，神经压缩器在压缩率方面已显著超越传统编解码器。然而，神经网络的高推理延迟阻碍了神经压缩器在实际应用中的部署。在这项工作中，我们提出了纯整数离散流(IODF)，一种仅使用整数算术的高效神经压缩器。我们的工作建立在整数离散流之上，该架构由离散随机变量间的可逆变换构成。我们基于8位量化提出了仅使用整数算术的高效可逆变换。我们的可逆变换配备了可学习的二值门，以在推理过程中移除冗余滤波器。我们在GPU上使用TensorRT部署IODF，与现有最快的神经压缩器相比实现了10倍的推理加速，同时在ImageNet32和ImageNet64上保持了高压缩率。
引用
@article{arxiv.2206.08869,
title = {Fast Lossless Neural Compression with Integer-Only Discrete Flows},
author = {Siyu Wang and Jianfei Chen and Chongxuan Li and Jun Zhu and Bo Zhang},
journal= {arXiv preprint arXiv:2206.08869},
year = {2022}
}
备注
Accepted as a conference paper at International Conference on Machine Learning (ICML) 2022