高维人工智能的内在几何脆弱性
机器学习
2019-01-25 v2 机器学习
摘要
现代人工智能(AI)技术的成功关键取决于从大规模高维数据集中学习非线性函数依赖关系的能力。尽管近期取得了备受瞩目的成功，经验证据表明高预测性能常常伴随低鲁棒性，使 AI 系统易受对抗攻击的潜在威胁。在本报告中，我们给出一个简单直观的论证，表明高性能与脆弱性本质上是耦合的，且在很大程度上依赖于典型高维数据集的几何结构。我们的工作凸显了现代 AI 系统的一个主要潜在缺陷，并提出了缓解该问题的实用研究方向。
引用
@article{arxiv.1811.03571,
title = {Intrinsic Geometric Vulnerability of High-Dimensional Artificial Intelligence},
author = {Luca Bortolussi and Guido Sanguinetti},
journal= {arXiv preprint arXiv:1811.03571},
year = {2019}
}