基于演化策略的语音模型低位量化校准
声音
2026-03-10 v1 人工智能
摘要
量化已成为语音处理系统高效部署的必备技术。尽管已广泛研究，但大多数现有量化方法是为视觉和 NLP 架构开发的，而音频信号的特定挑战却鲜有关注。特别是，我们指出音频激活值可能具有较大的校准范围，在应用标准校准技术时会导致显著信息损失。为此，我们提出 ESC，即一种基于演化策略的校准方法，将激活缩放建模为优化问题并通过两阶段局部-全局方案使用演化策略求解。ESC 实现了在完整 INT8 量化下的未更改性能，是首个在多个语音任务上实现完整 INT4 量化近乎无损性能的校准方法。将 ESC 与 PTQ 方法集成可进一步减少性能损失，在 AST 模型上实现约 1% 的相对精度下降。
引用
@article{arxiv.2603.08173,
title = {Evolution Strategy-Based Calibration for Low-Bit Quantization of Speech Models},
author = {Lucas Rakotoarivony},
journal= {arXiv preprint arXiv:2603.08173},
year = {2026}
}
备注
Submitted to INTERSPEECH 2026