ARQ: 用于精确且可认证鲁棒DNN的混合精度量化框架
机器学习
2026-04-29 v3 密码学与安全
计算机视觉与模式识别
摘要
混合精度量化已成为优化深度神经网络（DNN）执行的重要技术。可认证鲁棒性——为模型抵御不同对抗扰动的能力提供可证明的保证——由于认证鲁棒性的成本过高，在量化中很少被处理。本论文提出了 ARQ，一种创新的混合精度量化方法，不仅保持了平滑分类器的干净精度，还保持了其可认证鲁棒性。ARQ 使用强化学习来寻找精确且鲁棒的 DNN 量化，同时高效利用随机平滑——一种流行的统计 DNN 验证算法。ARQ 在所有基准和输入扰动水平上始终优于多种最先进量化技术。ARQ 量化网络的性能达到了具有浮点权重的原始 DNN 的水平，同时仅使用 1.5% 的指令和最高的认证半径。ARQ 的代码可在 https://github.com/uiuc-arc/ARQ 获取。
引用
@article{arxiv.2410.24214,
title = {ARQ: A Mixed-Precision Quantization Framework for Accurate and Certifiably Robust DNNs},
author = {Yuchen Yang and Yifan Zhao and Shubham Ugare and Gagandeep Singh and Sasa Misailovic},
journal= {arXiv preprint arXiv:2410.24214},
year = {2026}
}