基于混合的数据增强综述：分类、方法、应用与可解释性
机器学习
2024-06-05 v2 计算与语言
计算机视觉与模式识别
摘要
数据增强（DA）在现代机器学习与深度神经网络中不可或缺。DA 的基本思想是通过添加现有数据的轻微扰动版本或合成新数据来构建新训练数据，以改善模型泛化能力。本综述全面回顾了 DA 技术的一个关键子集，即基于混合的数据增强（MixDA），其通过组合多个样本生成新样本。相较于在单样本或整个数据集上操作的传统 DA 方法，MixDA 因其有效性、简洁性、灵活性、计算效率、理论基础与广泛适用性而脱颖而出。我们首先引入一种新颖分类法，基于数据混合操作的层次视角将 MixDA 分为基于 Mixup、基于 Cutmix 与混合方法三类。随后，我们深入回顾各类 MixDA 技术，聚焦其背后动机。因其通用性，MixDA 已渗透至广泛应用，本综述亦对其详尽考察。此外，我们通过考察 MixDA 对模型泛化与校准的影响探究其有效性底层机制，并借由分析 MixDA 固有性质提供对模型行为的洞察。最后，我们重述当前 MixDA 研究的关键发现与基本挑战，并勾勒未来工作的潜在方向。不同于先前聚焦特定领域（如 CV 与 NLP）DA 方法或仅回顾有限 MixDA 研究的相关综述，我们首次提供 MixDA 的系统性综述，涵盖其分类、方法、应用与可解释性。此外，我们为关注此热门领域的研究者提供有前景的方向。
引用
@article{arxiv.2212.10888,
title = {A Survey of Mix-based Data Augmentation: Taxonomy, Methods, Applications, and Explainability},
author = {Chengtai Cao and Fan Zhou and Yurou Dai and Jianping Wang and Kunpeng Zhang},
journal= {arXiv preprint arXiv:2212.10888},
year = {2024}
}
备注
41 pages, 4 figures, and 5 tables