MIBP-Cert：基于混合整数双线性规划的确定性数据扰动认证训练
机器学习
2025-10-28 v2 人工智能
摘要
数据中的错误、损坏和投毒攻击在训练期间构成对现代AI系统可靠性的主要威胁。虽然已努力进行经验性缓解，但攻击的不断演变以及数据复杂性需要一种更原则、可证明的方法来对此类数据进行稳健学习——并了解扰动如何影响最终模型。因此，我们引入MIBP-Cert，一种基于混合整数双线性规划（MIBP）的新型认证方法，该方法计算sound、确定性的界限，以在复杂威胁模型下提供可证明的鲁棒性。通过计算通过扰动或操纵数据可到达的参数集合，我们可以预测所有可能的结果并保证鲁棒性。为了使求解此优化问题可行，我们提出了一种新的松弛方案，可在不牺牲soundness的情况下对每个训练步骤进行界限。我们展示了该方法适用于连续和离散数据以及不同威胁模型——包括此前无法触及的复杂模型。
引用
@article{arxiv.2412.10186,
title = {MIBP-Cert: Certified Training against Data Perturbations with Mixed-Integer Bilinear Programs},
author = {Tobias Lorenz and Marta Kwiatkowska and Mario Fritz},
journal= {arXiv preprint arXiv:2412.10186},
year = {2025}
}