哥德尔语句是但不可解的对抗样本
机器学习
2020-02-26 v1 计算机视觉与模式识别
机器学习
摘要
近年来,来自不同领域的各类对抗样本层出不穷,包括无扰动的纯自然对抗样本。多种防御方法被提出并很快被攻破。两个根本性问题亟待提出:对抗样本存在的原因是什么?对抗样本是否不可解?本文中,我们将表明对抗样本存在的原因是存在均能解释数据集的非同构自然解释。具体而言,对于“真”与“可证”的两种自然解释,哥德尔语句是一个对抗样本但不可消除。它无法通过数据集的重新积累或学习算法的重新改进来解决。最后,从可计算性角度,我们将证明对抗样本(其不可识别)的不可计算性。
引用
@article{arxiv.2002.10703,
title = {G\"odel's Sentence Is An Adversarial Example But Unsolvable},
author = {Xiaodong Qi and Lansheng Han},
journal= {arXiv preprint arXiv:2002.10703},
year = {2020}
}