分布对抗损失
机器学习
2025-06-23 v2
摘要
我们首次研究了一种新的对抗损失概念，称为分布对抗损失。在该概念中，我们假设每个原始样本允许的对抗扰动集是一个分布族，每个样本上的对抗损失是所有相关分布上的最大损失。目标是最小化总体对抗损失。我们在PAC学习框架下给出了对抗损失概念的样本复杂度界。我们的对抗损失概念与之前考虑点集(而非分布)作为每个干净样本扰动集的鲁棒学习工作形成对比。作为我们方法的一个应用，我们展示了如何在PAC学习框架下统一随机平滑和鲁棒学习这两条工作线，并推导出随机平滑方法的样本复杂度界。此外，我们研究了随机性在实现对抗攻击鲁棒性中的作用。我们展示了一种通用的去随机化技术，该技术保留了随机分类器对抗攻击鲁棒性的程度，并经验性地证明了其有效性。
引用
@article{arxiv.2406.03458,
title = {Distributional Adversarial Loss},
author = {Saba Ahmadi and Siddharth Bhandari and Avrim Blum and Chen Dan and Prabhav Jain},
journal= {arXiv preprint arXiv:2406.03458},
year = {2025}
}