AsyCo：用于部分标签学习的非对称双任务共训练模型
机器学习
2024-07-23 v1 人工智能
计算机视觉与模式识别
摘要
部分标签学习 (PLL) 是弱监督学习中的一个典型问题，其中每个训练实例都带有一组候选标签。自训练 PLL 模型在性能上取得了最好的成绩，但因误被歧义的实例而导致误差累积。尽管共训练可以通过同时训练两个网络并让它们相互作用来缓解此问题，但大多数现有的共训练方法训练两个结构相同且任务相同的网络，即是对称的，导致它们无法因相似的局限性而相互纠正。因此，本文提出了一个称为 AsyCo 的非对称双任务共训练 PLL 模型，该模型迫使其两个网络，即歧义网络和辅助网络，通过优化不同的任务来从不同视角进行学习。具体而言，歧义网络在自训练 PLL 任务上进行训练，以学习标签置信度；而辅助网络则在监督学习范式下进行训练，以从根据所学习的标签置信度构建的噪声成对相似标签中学习。最后，通过信息蒸馏和置信度细化来缓解误差累积问题。在针对均匀和实例相关的部分标记数据集上的大量实验表明，AsyCo 的有效性。代码可在 https://github.com/libeibeics/AsyCo 上获取。
引用
@article{arxiv.2407.15036,
title = {AsyCo: An Asymmetric Dual-task Co-training Model for Partial-label Learning},
author = {Beibei Li and Yiyuan Zheng and Beihong Jin and Tao Xiang and Haobo Wang and Lei Feng},
journal= {arXiv preprint arXiv:2407.15036},
year = {2024}
}
备注
15 pages, accepted by Science China, Information Science