语义等变混合采样

Mixup 是一种成熟的数据增强技术，它基于标签等变（label-equivariance）假设——即输入数据的按比例混合会导致对应标签按相同比例混合——来创建“混合”样本，从而扩展训练分布并正则化神经网络。然而，以往的 mixup 变体在训练中可能未能利用混合样本中独立于标签的信息，而此类信息通常包含更丰富的语义信息。为进一步释放 mixup 的威力，我们首先以语义等变（semantic-equivariance）假设改进此前的标签等变假设，该假设指出输入数据的按比例混合应导致对应表示按相同比例混合。随后提出一种在表示层面的通用 mixup 正则化方法，可利用混合样本中的语义信息进一步正则化模型。总体而言，所提出的语义等变 mixup（sem）鼓励输入数据的结构在表示空间中得以保持，即输入的变化会使所获表示信息以相同方式变化。与以往倾向于过度关注标签相关信息的 mixup 变体不同，本方法旨在以语义等变假设保留输入中更丰富的语义信息，从而提升模型对分布偏移的鲁棒性。我们开展了大量实证研究与定性分析以证明所提方法的有效性。稿件代码见补充材料。