Epsilon Consistent Mixup：具有自适应一致性-插值权衡的结构化正则化
机器学习
2021-10-01 v2 机器学习
应用统计
统计方法学
摘要
本文提出 -Consistent Mixup（mu）。mu 是一种基于数据的结构化正则化技术，它通过在 Mixup 方向与一致性正则化之间进行简单的自适应权衡，将 Mixup 的线性插值与其结合。这种可学习的一致性与插值组合在特征空间上响应的演化中引入了更灵活的结构，并被证明能提高 SVHN 和 CIFAR10 基准数据集上半监督分类的准确率，在最具挑战性的低标签可用场景下收益最大。本文给出了 mu 与 Mixup 的对比实证研究，并揭示了 mu 有效性背后的机制。特别地，研究发现 mu 比 Mixup 能产生更准确的合成标签和更自信的预测。
引用
@article{arxiv.2104.09452,
title = {Epsilon Consistent Mixup: Structural Regularization with an Adaptive Consistency-Interpolation Tradeoff},
author = {Vincent Pisztora and Yanglan Ou and Xiaolei Huang and Francesca Chiaromonte and Jia Li},
journal= {arXiv preprint arXiv:2104.09452},
year = {2021}
}