面向无截断量化超分辨率网络：如何驯服代表性图像
计算机视觉与模式识别
2023-08-23 v1
摘要
超分辨率（SR）网络已被研究一段时间，其移动端和轻量级版本近来获得了显著关注。量化，即降低网络参数精度（多为 FP32 到 INT8）的过程，也被用于 SR 网络以建立移动端兼容性。本研究关注一个非常重要但大多被忽视的训练后量化（PTQ）步骤：代表性数据集（RD），其调整 PTQ 的量化范围。我们提出了一种新颖的流程（无截断量化流程，CFQP），并辅以大量实验论证，通过仅使用 FP32 模型的输出来巧妙地增广 RD 图像。使用所提流程处理 RD，我们成功消除了不需要的截断激活层，而几乎所有移动端 SR 方法都利用此类层以使模型对 PTQ 更鲁棒，代价是运行时的大量开销。通过我们的方法移除截断激活显著有益于整体稳定性提升、某些 SR 模型推理运行时最高减少 54%、相较于 INT8 截断模型更好的视觉质量结果——并且在运行时和视觉质量上甚至优于一些 FP32 非量化模型，且无需使用截断激活进行重训练。
引用
@article{arxiv.2308.11365,
title = {Towards Clip-Free Quantized Super-Resolution Networks: How to Tame Representative Images},
author = {Alperen Kalay and Bahri Batuhan Bilecen and Mustafa Ayazoglu},
journal= {arXiv preprint arXiv:2308.11365},
year = {2023}
}
备注
BMVC 2023