面向 Wan2.2 的 Tail-Aware HiFloat4：W4A4 Post-Training 量化
人工智能
2026-05-27 v1
摘要
本报告描述了 Tail-Aware HiFloat4，我们的低位文本到视频生成量化挑战提交方案。我们将公开的 ViDiT-Q Post-Training 量化管道适用于 Wan2.2，采用 HiFloat4 数值格式。我们对 Wan2.2 transformer 模块中的主要线性层进行 W4A4 HiFloat4 假量化，保持数值敏感的边界模块的高精度，并引入用于通道-掩码构建的激活尾部感知百分位数校准模块。此外，结合紧凑的 PTQ-state 恢复，该设计减少了稀有校准异常值的影响，同时保持运行时的 HiFloat4 算术和采样管道不变。
引用
@article{arxiv.2605.26628,
title = {Tail-Aware HiFloat4: W4A4 Post-Training Quantization for Wan2.2},
author = {Zhanfeng Feng and Shuai Guo and Xin Di and Long Peng and Yang Cao and Zhengjun Zha},
journal= {arXiv preprint arXiv:2605.26628},
year = {2026}
}