通过机器学习鲁棒性与分布外问题的联系重新思考其鲁棒性
机器学习
2022-02-21 v1 密码学与安全
摘要
尽管为实现鲁棒机器学习（ML）模型做出了诸多努力，其对对抗样本的脆弱性仍是一个亟待重新思考防御策略的挑战性问题。本文中，我们退一步审视 ML 模型易受对抗样本攻击的根源。特别地，我们聚焦于探索对抗样本与分布外（OOD）问题之间的因果联系。为此，我们提出一种 OOD 泛化方法，可同时抵御对抗引发的和自然的分布偏移。通过 OOD 到分布内映射的直觉，我们的方法将 OOD 输入转换为用于训练和测试模型的数据分布。在三个不同规模的基准图像数据集（MNIST、CIFAR10 和 ImageNet）上，利用图像到图像翻译方法进行大量实验，我们确认对抗样本问题是更广泛的 OOD 泛化问题的特例。在所有数据集上，我们表明基于翻译的方法持续提升了针对 OOD 对抗输入的鲁棒性，并以显著优势超越 SOTA 防御，同时在良性（分布内）数据上保持完全相同的准确率。此外，我们的方法对自然 OOD 输入（如较暗或较锐利的图像）也具有泛化能力。
引用
@article{arxiv.2202.08944,
title = {Rethinking Machine Learning Robustness via its Link with the Out-of-Distribution Problem},
author = {Abderrahmen Amich and Birhanu Eshete},
journal= {arXiv preprint arXiv:2202.08944},
year = {2022}
}
备注
13 pages