面向深度张量压缩的来回预测方法
机器学习
2020-02-18 v1 图像与视频处理
信号处理
摘要
近期诸如基于神经网络的协同智能等AI应用涉及在不同计算设备间传输深度特征张量。这需要张量压缩以优化设备间带宽受限信道的利用。本文中，我们提出了一种为深度特征张量开发的称为来回（BaF）预测的预测方案，其可大幅减小张量尺寸并提升其可压缩性。我们基于SOTA目标检测器的实验表明，所提方法能显著减少压缩从模型深层提取的特征张量所需的比特数，且检测性能退化可忽略，无需对任何网络权重进行重新训练。我们分别实现了62%和75%的张量尺寸缩减，同时将网络精度损失保持在小于1%和2%。
引用
@article{arxiv.2002.07036,
title = {Back-and-Forth prediction for deep tensor compression},
author = {Hyomin Choi and Robert A. Cohen and Ivan V. Bajic},
journal= {arXiv preprint arXiv:2002.07036},
year = {2020}
}
备注
Accepted for publication in IEEE ICASSP'20