中文

当位被破坏:反事实忠实量化

机器学习 2026-05-19 v1 人工智能 计算机视觉与模式识别

摘要

量化可以在低位部署下保持预测准确性,却在默默破坏算法反事实性:一种在量化前能翻转决策的可操作性改变,量化后可能失败,或变得 substantially 更昂贵。我们通过有效性、成本和方向稳定性对量化下的反事实灵敏度进行形式化建模,提出 Validity Drop (VD) 和 Counterfactual Recourse Gap (CRG) 两个指标,以揭示准确性无法察觉的反事实失效。我们提出 Counterfactual-Faithful Quantization (CFQ),通过强制在教师反事实点处实现目标结果来保持反事实行为,同时在全局位预算下训练量化器参数和混合精度位分配。基于边际的分析给出了受限量化扰动下反事实传递的充分条件。在 Adult、German Credit 和 COMPAS 数据集上实验表明,准确性匹配的基线方法在显著程度上会损害反事实稳定性,而 CFQ 能保持准确性并在各种位预算下显著提升 VD 和 CRG。

关键词

引用

@article{arxiv.2605.17160,
  title  = {When Bits Break Recourse: Counterfactual-Faithful Quantization},
  author = {Chaymae Yahyati and Ismail Lamaakal and Khalid El Makkaoui and Ibrahim Ouahbi},
  journal= {arXiv preprint arXiv:2605.17160},
  year   = {2026}
}

备注

57 pages, 32 tables, 26 figures