黑盒函数的域外泛化认证
机器学习
2022-08-02 v2
摘要
在分布鲁棒性的框架下，认证模型性能在有限数据分布漂移下的鲁棒性近来引起了广泛关注。然而，现有技术要么对可认证的模型类和损失函数做出强假设（例如通过梯度 Lipschitz 连续性表达的平滑性），要么需要求解复杂的优化问题。因此，这些技术的更广泛应用目前受限于其可扩展性和灵活性——它们通常无法扩展到具有现代深度神经网络的大规模数据集，或无法处理可能非平滑的损失函数（如 0-1 损失）。在本文中，我们关注黑盒模型和有限损失函数的分布鲁棒性认证问题，并提出了一种基于 Hellinger 距离的新认证框架。我们的认证技术可扩展到 ImageNet 规模的数据集、复杂模型以及多种不同的损失函数。随后，我们聚焦于由这种可扩展性和灵活性所赋能的一个具体应用，即针对大型神经网络和准确率、AUC 等损失函数的域外泛化认证。我们在多个数据集上实验验证了我们的认证方法，从 ImageNet（我们提供了首个非平凡认证的域外泛化）到较小的分类任务（我们能够与最先进方法比较并表明我们的方法表现明显更优）。
引用
@article{arxiv.2202.01679,
title = {Certifying Out-of-Domain Generalization for Blackbox Functions},
author = {Maurice Weber and Linyi Li and Boxin Wang and Zhikuan Zhao and Bo Li and Ce Zhang},
journal= {arXiv preprint arXiv:2202.01679},
year = {2022}
}
备注
39th International Conference on Machine Learning (ICML) 2022