QFT：通过所有自由度的快速联合微调实现训练后量化
机器学习
2023-03-21 v1 计算机视觉与模式识别
机器学习
摘要
受工业需求驱动，将量化神经网络精度提升至接近原始精度的训练后量化（PTQ）挑战已引起广泛关注。许多方法强调对特定自由度（DoF）的优化，例如量化步长、预条件因子、偏置修正，常以多步方案链式连接其他自由度。在此，我们以硬件感知方式重新思考量化网络参数化，旨在对所有量化自由度进行统一分析，首次允许它们的端到端联合微调。我们这一名为量化感知微调（QFT）的单步、简单且可扩展的方法，在速度与资源的 PTQ 约束下，实现了与 SoTA 相当的 4-bit 权重量化结果。
引用
@article{arxiv.2212.02634,
title = {QFT: Post-training quantization via fast joint finetuning of all degrees of freedom},
author = {Alex Finkelstein and Ella Fuchs and Idan Tal and Mark Grobman and Niv Vosco and Eldad Meller},
journal= {arXiv preprint arXiv:2212.02634},
year = {2023}
}
备注
Presented at CADL2022 workshop at ECCV2022