中文

用于回归学习的一阶流形数据增强

机器学习 2024-06-18 v1

摘要

针对特定领域的数据增强(DA)方法通过应用适合底层数据域特征的变换(例如图像的旋转和时间序列数据的时间扭曲)来生成合成样本。相比之下,与领域无关的方法(例如mixup)适用于各种数据模态,因此它们具有通用性和多功能性。虽然通过DA正则化分类任务是一个研究充分的话题,但DA对回归问题的影响受到的关注较少。为弥补这一差距,我们研究了回归问题的与领域无关的数据增强,并引入了FOMA:一种新的数据驱动的、与领域无关的数据增强方法。本质上,我们的方法从训练分布的切平面中采样新样本。以这种方式增强数据与网络倾向于捕获其输入信号主导特征的趋势一致。我们在分布内泛化和分布外鲁棒性基准上评估了FOMA,并表明它提高了多种神经架构的泛化能力。我们还发现,基于mixup的强基线方法在我们的方法面前效果较差。我们的代码公开在https://github.com/azencot-group/FOMA。

关键词

引用

@article{arxiv.2406.10914,
  title  = {First-Order Manifold Data Augmentation for Regression Learning},
  author = {Ilya Kaufman and Omri Azencot},
  journal= {arXiv preprint arXiv:2406.10914},
  year   = {2024}
}

备注

Accepted to ICML 2024