RingCNN：利用代数稀疏环张量实现高能效基于CNN的计算成像
神经与进化计算
2021-04-20 v1 机器学习
摘要
在人工智能时代，卷积神经网络（CNNs）正成为计算成像的一项强大技术。它们已从严重失真图像中重建精细纹理的优越质量，并有望将下一代相机与显示器带入我们的日常生活。然而，CNNs在生成高分辨率视频时需要密集计算能力，且在渲染稠密细节时使传统稀疏技术失效。因此，发掘规则稀疏性的新可能，对实现基于CNN的计算成像大规模部署至关重要。本文中，我们考虑一种基础但尚待充分探索的方法——代数稀疏性——用于高能效CNN加速。我们提出基于环代数构建CNN模型，该代数恰当地定义了n元组上的乘法、加法与非线性运算。由此本质稀疏性随即而来，例如实值权重数量减少n倍。我们定义并将若干环代数变体统一为建模框架RingCNN，并就图像质量与硬件复杂度进行比较。在此基础上，我们进一步设计了一种新颖环代数，其以分量积最小化复杂度，并利用方向性ReLU取得最佳质量。最后，我们以40 nm工艺实现了两种设置（n=2与4，即50%与75%稀疏度）下的加速器eRingCNN，以支持高达4K UHD 30 fps的先进去噪与超分辨率。版图结果显示，它们可分别以3.76 W与2.22 W功耗提供等效41 TOPS算力。与实值对应方案相比，n=2的环卷积引擎在相似甚至更优图像质量下实现了2.00倍能效与2.08倍面积效率。n=4时，能效与面积效率增益进一步提升至3.84倍与3.77倍，而PSNR仅下降0.11 dB。
引用
@article{arxiv.2104.09056,
title = {RingCNN: Exploiting Algebraically-Sparse Ring Tensors for Energy-Efficient CNN-Based Computational Imaging},
author = {Chao-Tsung Huang},
journal= {arXiv preprint arXiv:2104.09056},
year = {2021}
}
备注
To Appear in 2021 ACM/IEEE 48th Annual International Symposium on Computer Architecture (ISCA)