从任务无关标签中学习纯化特征表示
机器学习
2022-07-12 v3 计算机视觉与模式识别
摘要
利用有限数据学习一个具有泛化能力的经验有效模型对深度神经网络而言是一项具有挑战性的任务。在本文中，我们提出了一种称为 PurifiedLearning 的新颖学习框架，以在小规模数据集上训练模型时利用从任务无关标签中提取的任务无关特征。特别地，我们通过使用任务无关信息的表达来纯化特征表示，从而促进分类的学习过程。我们的工作建立在扎实的理论分析和广泛的实验之上，证明了 PurifiedLearning 的有效性。根据我们证明的理论，PurifiedLearning 是与模型无关的，并且对所需模型没有任何限制，因此它可以轻松地与任何现有的深度神经网络结合以实现更好的性能。本文的源代码将在未来提供以保证可复现性。
引用
@article{arxiv.2102.10955,
title = {Learning Purified Feature Representations from Task-irrelevant Labels},
author = {Yinghui Li and Chen Wang and Yangning Li and Hai-Tao Zheng and Ying Shen},
journal= {arXiv preprint arXiv:2102.10955},
year = {2022}
}
备注
Accepted by IJCNN 2022. arXiv admin note: substantial text overlap with arXiv:2011.08470