图像的内在维度及其对学习的影响
计算机视觉与模式识别
2021-04-20 v1 机器学习
机器学习
摘要
人们普遍认为，尽管传统像素表示具有高维性，自然图像数据呈现出低维结构。这一想法是深度学习在计算机视觉中取得显著成功背后常见直觉的基础。在本工作中，我们将维度估计工具应用于流行数据集，并研究低维结构在深度学习中的作用。我们发现常见的自然图像数据集相对于图像中的高像素数确实具有非常低的内在维度。此外，我们发现低维数据集更易于神经网络学习，且解决这些任务的模型从训练数据到测试数据泛化更好。在此过程中，我们开发了一种在GAN生成合成数据上验证维度估计工具的技术，使我们能够通过控制图像生成过程主动操纵内在维度。我们的实验代码可在 https://github.com/ppope/dimensions 找到。
引用
@article{arxiv.2104.08894,
title = {The Intrinsic Dimension of Images and Its Impact on Learning},
author = {Phillip Pope and Chen Zhu and Ahmed Abdelkader and Micah Goldblum and Tom Goldstein},
journal= {arXiv preprint arXiv:2104.08894},
year = {2021}
}
备注
To appear at ICLR 2021 (spotlight), 17 pages with appendix, 15 figures