数据增强是否带来正间隔？
机器学习
2019-05-09 v1 机器学习
摘要
数据增强（DA）在模型训练期间被广泛使用，因为它显著改善测试误差和模型鲁棒性。DA 通过对输入数据施加随机噪声、旋转、裁剪甚至对抗扰动来人为扩展训练集。尽管 DA 被广泛使用，其可证明改善鲁棒性的能力尚未被充分理解。在这项工作中，我们通过量化 DA 在经验风险最小化器上强制施加的间隔来分析 DA 带来的鲁棒性。我们首先关注线性分离器，然后关注一类标记在数据点的小凸包内为常数的非线性模型。我们给出了获得非零间隔所需增强数据点数量的下界，并表明常用的 DA 技术可能仅在向数据集添加指数级数量的点后才引入显著间隔。
引用
@article{arxiv.1905.03177,
title = {Does Data Augmentation Lead to Positive Margin?},
author = {Shashank Rajput and Zhili Feng and Zachary Charles and Po-Ling Loh and Dimitris Papailiopoulos},
journal= {arXiv preprint arXiv:1905.03177},
year = {2019}
}
备注
ICML 2019