调控正确的基础模型：针对部分标签学习的必要之举
机器学习
2025-06-06 v1
摘要
部分标签学习 (PLL) 旨在从带有不精确监督的数据集中训练出可泛化的分类器，这是现实应用中常见的挑战。现有研究已开发了众多方法，通过训练卷积神经网络来逐步细化和恢复真实标签。然而，针对提供可迁移表示的基础模型，关注力度有限。本文我们在 8 个基准数据集上，对 13 种 PLL 方法和 11 种基础模型进行了全面评估，涵盖 3 种 PLL 场景。我们进一步提出了 PartialCLIP—an 用于 PLL 中基础模型的高效微调框架。我们的发现表明，当前的 PLL 方法在使用基础模型时会 1) 获得显著的性能提升， 2) 彼此之间表现出惊人的相似性， 3) 在不同歧义程度下保持稳定的性能，而 4) 对基础模型的选择和适应策略较为敏感。此外，我们展示了基于零样态 CLIP 的文本嵌入分类器初始化和有效候选标签筛选的有效性。我们的实验结果和分析凸显了当前 PLL 方法的局限性，并为开发更具可泛化性的 PLL 模型提供了宝贵的见解。源代码可在 https://github.com/SEU-hk/PartialCLIP 查找。
引用
@article{arxiv.2506.05027,
title = {Tuning the Right Foundation Models is What you Need for Partial Label Learning},
author = {Kuang He and Wei Tang and Tong Wei and Min-Ling Zhang},
journal= {arXiv preprint arXiv:2506.05027},
year = {2025}
}
备注
The code can be found at \url{https://github.com/SEU-hk/PartialCLIP}