通过转导学习实现对抗鲁棒性的探索
机器学习
2021-06-17 v1 密码学与安全
摘要
近年来，利用转导学习提升对抗鲁棒性引起了广泛关注（Goldwasser 等，NeurIPS 2020；Wu 等，ICML 2020）。与传统“测试时”防御不同，这些防御机制通过转导学习基于测试时输入“动态重训练”模型；理论上，攻击这些防御可归结为双层优化问题，这似乎增加了自适应攻击的难度。本文首先形式化并分析了转导鲁棒性的建模问题。随后，我们提出用于求解双层攻击目标的攻击模型空间原理，并给出该原理的一个实例，攻破了此前的转导防御。这些攻击因而指出了利用转导学习改善对抗鲁棒性所面临的重大困难。为此，我们给出了支持转导学习实用性的新理论与实证证据。
引用
@article{arxiv.2106.08387,
title = {Towards Adversarial Robustness via Transductive Learning},
author = {Jiefeng Chen and Yang Guo and Xi Wu and Tianqi Li and Qicheng Lao and Yingyu Liang and Somesh Jha},
journal= {arXiv preprint arXiv:2106.08387},
year = {2021}
}