AI 算法究竟学到了什么？——论深度学习中的虚假结构
机器学习
2019-06-05 v1 密码学与安全
计算机视觉与模式识别
机器学习
摘要
人工智能（AI）中有两个未解决的重大数学问题：（1）为何深度学习在分类问题中如此成功；（2）为何基于深度学习的神经网络同时普遍不稳定，这种不稳定性使网络易受对抗攻击。我们给出可概括为两个词的这些问题的解：虚假结构。的确，深度学习并未学习人类在识别图像时所用的原始结构（猫有胡须、爪子、皮毛、尖耳朵等），而是学习了与原始结构相关因而带来成功的不同的虚假结构。然而，虚假结构不同于原始结构，是不稳定的。虚假结构比原始结构更简单，因此用更少的数据更容易学习，且训练中使用的数值算法更容易收敛到捕捉虚假结构的神经网络。我们形式化定义了虚假结构的概念并将该解表述为一个猜想。鉴于训练好的神经网络总以近似方式计算，该猜想只能像理论物理中确立一个公设（例如光速恒定）那样通过理论与计算结果的结合来确立。完整确立该猜想将需要一个刻画虚假结构的庞大研究计划。我们为这样一个计划奠定基础，确立了实践中虚假结构的存在性。最后，我们讨论了虚假结构的存在对最先进 AI 及 Smale 第 18 问题的深远影响。
引用
@article{arxiv.1906.01478,
title = {What do AI algorithms actually learn? - On false structures in deep learning},
author = {Laura Thesing and Vegard Antun and Anders C. Hansen},
journal= {arXiv preprint arXiv:1906.01478},
year = {2019}
}