MetaInfoNet：学习任务引导信息用于样本重加权
机器学习
2020-12-11 v1 计算机视觉与模式识别
摘要
深度神经网络已被证明容易过拟合于带有标签噪声或类别不平衡的偏置训练数据。元学习算法通常以样本重加权形式设计，通过学习一个以训练损失为输入来生成样本权重的元加权网络，以缓解此问题。在本文中，我们主张为元加权网络选择适当输入对于特定任务中所需的样本权重至关重要，而训练损失并非总是正确答案。鉴于此，我们提出一种新颖的元学习算法 MetaInfoNet，它通过信息瓶颈策略强调任务相关信息，自动学习有效表示作为元加权网络的输入。在带有标签噪声或类别不平衡的基准数据集上的大量实验结果验证了 MetaInfoNet 优于许多最先进的方法。
引用
@article{arxiv.2012.05273,
title = {MetaInfoNet: Learning Task-Guided Information for Sample Reweighting},
author = {Hongxin Wei and Lei Feng and Rundong Wang and Bo An},
journal= {arXiv preprint arXiv:2012.05273},
year = {2020}
}