ASC：面向深度神经网络的自适应尺度特征图压缩
计算机视觉与模式识别
2025-03-25 v1 硬件体系结构
图像与视频处理
摘要
深度学习加速器的需求日益增长；然而，其性能受到特征图大小的制约，导致高带宽需求和大缓冲区尺寸。我们提出了一种利用特征图独特性质的自适应尺度特征图压缩技术。该技术鉴于通道间弱相关性，采用独立通道索引，并利用立方体状块形状以受益于强局部相关性。该方法进一步通过可切换端点模式和自适应尺度插值来优化压缩，以处理有无离群值的单峰数据分布。这使得16位数据在恒定和可变比特率下分别实现了4倍和高达7.69倍的压缩率。我们的硬件设计通过调整插值尺度来最小化面积成本，这促进了插值点间的硬件共享。此外，我们引入了一个阈值概念以实现直接插值，避免了复杂的硬件需求。台积电28nm工艺实现显示，8位版本的等效门数为6135。此外，该硬件架构有效扩展，面积成本仅呈亚线性增长。实现32倍吞吐量提升，仅需7.65倍的硬件成本即可达到DDR5-6400的理论带宽。
引用
@article{arxiv.2312.08176,
title = {ASC: Adaptive Scale Feature Map Compression for Deep Neural Network},
author = {Yuan Yao and Tian-Sheuan Chang},
journal= {arXiv preprint arXiv:2312.08176},
year = {2025}
}