面向量化图像修复的无解码蒸馏
计算机视觉与模式识别
2026-03-11 v1
摘要
量化感知训练 (QAT) 结合知识蒸馏 (KD) 在压缩模型以实现边缘部署方面具有巨大的潜力。然而，针对低层视觉中精度敏感的图像修复 (IR) 以恢复从退化图像中恢复视觉质量的联合优化，仍在很大程度上未被探索。直接将 QAT-KD 应用于低层视觉揭示了三个关键瓶颈：教师-学生容量不匹配、解码器蒸馏期间的空间误差放大，以及由于量化噪声导致重建损失与蒸馏损失之间优化产生的“拉锯”。为解决这些问题，我们引入 Quantization-aware Distilled Restoration (QDR)，一个面向边缘部署的 IR 框架。QDR 通过 FP32 自蒸馏消除容量不匹配，通过无解码蒸馏 (DFD) 防止误差放大，该方法严格在网络瓶颈处纠正量化误差。为稳定优化拉锯，我们提出了可学习的幅度重加权 (LMR)，动态平衡竞争性梯度。最后，我们设计了包含轻量级可学习损害门控 (LDG) 的边缘友好模型 (EFM)，用于动态调制空间损害局部分析。广泛的实验在四种 IR 任务上表明，我们的 Int8 模型恢复了 96.5% 的 FP32 性能，在 NVIDIA Jetson Orin 上实现 442 帧/秒 (FPS)，并提升下游目标检测 16.3 mAP。
引用
@article{arxiv.2603.09624,
title = {Decoder-Free Distillation for Quantized Image Restoration},
author = {S. M. A. Sharif and Abdur Rehman and Seongwan Kim and Jaeho Lee},
journal= {arXiv preprint arXiv:2603.09624},
year = {2026}
}