Beacon：集成网格选择的后训练量化
机器学习
2026-02-18 v2 人工智能
摘要
量化是一种广泛用于降低大型预训练模型内存和计算成本的压缩技术。单通道后训练量化(PTQ)的关键挑战在于选择合适的缩放因子，以将权值替换为来自缩放整数网格的值。现有方法通常通过启发式调谐或网格搜索在一开始固定缩放因子。我们提出了 Beacon，一种简单有效的算法，无需进行此类手动调谐。Beacon 直接使用未缩放的网格完成单通道 PTQ，并通过利用标量量化的几何结构自动确定最优缩放因子。它不依赖于反向传播或大型校准数据集。尽管 Beacon 简单且无需调谐，却能实现与最先进方法的可competitive性能，使其成为高效模型部署的实用解决方案。
引用
@article{arxiv.2508.20293,
title = {Beacon: Post-Training Quantization with Integrated Grid Selection},
author = {Shihao Zhang and Rayan Saab},
journal= {arXiv preprint arXiv:2508.20293},
year = {2026}
}