HiQ-Lip：一种用于 ReLU 网络全局 Lipschitz 常数估计的分层量子-经典方法
机器学习
2026-01-12 v2 人工智能
量子物理
摘要
估计神经网络的全局 Lipschitz 常数对于理解和提升其鲁棒性与泛化能力至关重要。然而，精确计算是 NP-hard 的，且当前的半正定规划 (SDP) 方法面临内存消耗高和处理速度慢等挑战。在本文中，我们提出了 HiQ-Lip，一种利用量子计算来估计全局 Lipschitz 常数的混合量子-经典分层方法。我们通过将其转化为二次无约束二值优化问题来处理该估计，并实施多级图粗化与细化策略，以适应当代量子硬件的限制。我们在全连接神经网络上进行的实验评估表明，HiQ-Lip 不仅提供了与现有最先进方法相当的估计，还显著加速了计算过程。在涉及具有 256 个隐藏神经元的双层神经网络的特定测试中，HiQ-Lip 将求解速度提高了一倍，并提供了比现有最佳方法 LiPOpt 更准确的上界。这些发现凸显了小规模量子设备在推进神经网络鲁棒性估计方面的广阔应用前景。
引用
@article{arxiv.2503.16342,
title = {HiQ-Lip: A Hierarchical Quantum-Classical Method for Global Lipschitz Constant Estimation of ReLU Networks},
author = {Haoqi He and Yan Xiao and Wenzhi Xu and Ruoying Liu and Xiaokai Lin and Kai Wen},
journal= {arXiv preprint arXiv:2503.16342},
year = {2026}
}