AI 分类器对抗脆弱性的信息论解释
信息论
2019-01-29 v1 机器学习
信号处理
math.IT
摘要
我们提出关于人工智能（AI）分类器一种压缩性质的简单假设，并给出理论论证表明该假设成功解释了所观测到的 AI 分类器对微小对抗扰动的脆弱性。我们还提出一种检测微小输入扰动导致分类器错误的新方法，并给出该方法性能的理论保证。我们展示了语音识别系统的实验结果以证明该方法。本文思想源于 AI 分类器与标准 Shannon 通信系统模型之间的简单类比。
关键词
引用
@article{arxiv.1901.09413,
title = {An Information-Theoretic Explanation for the Adversarial Fragility of AI Classifiers},
author = {Hui Xie and Jirong Yi and Weiyu Xu and Raghu Mudumbai},
journal= {arXiv preprint arXiv:1901.09413},
year = {2019}
}
备注
5 pages