渐近中点混合用于边界平衡与适度拓宽
机器学习
2024-01-29 v1 人工智能
摘要
在特征空间中，特征之间的坍缩会导致表示学习中的关键问题，因为特征无法区分。基于插值的增强方法（如mixup）已被证明在缓解不同类别之间的坍缩问题（称为类间坍缩）方面有效。然而，在粗到细的迁移学习中出现的类内坍缩尚未在增强方法中得到讨论。为了解决这些问题，我们提出了一种更好的特征增强方法：渐近中点混合。该方法通过插值生成增强特征，但逐渐将它们移向类间特征对的中点。结果，该方法产生了两个效果：1）平衡所有类别的边界；2）仅适度拓宽边界，直到其具有最大置信度。我们通过可视化表示测量对齐性和均匀性，实证分析了坍缩效应。然后，我们在粗到细迁移学习中验证了类内坍缩效应，并在长尾数据集上的不平衡学习中验证了类间坍缩效应。在这两项任务中，我们的方法都优于其他增强方法。
引用
@article{arxiv.2401.14696,
title = {Asymptotic Midpoint Mixup for Margin Balancing and Moderate Broadening},
author = {Hoyong Kim and Semi Lee and Kangil Kim},
journal= {arXiv preprint arXiv:2401.14696},
year = {2024}
}