ADROIT：用于主动学习鲁棒表征表示的自监督框架
机器学习
2025-03-11 v1 计算机视觉与模式识别
摘要
主动学习旨在选择最优样本进行标注，从而最小化标注成本。本文介绍了一个为主动学习量身定制的具有任务感知的统一表征学习框架。它将包括重构、对抗、自监督、知识蒸馏和分类损失在内的多种来源整合到一个统一的基于 VAE 的 ADROIT 方法中。所提出的方法包含三个关键组件——一个统一表征生成器（VAE）、一个状态判别器以及一个（代理）任务学习器或分类器。ADROIT 利用有标签和无标签数据学习潜在编码，并通过利用带有代理分类器的有标签数据来融入任务感知。与先前的方法不同，代理分类器还在无标签数据上采用自监督损失，并利用知识蒸馏与目标任务学习器对齐。状态判别器区分有标签和无标签数据，促进了信息丰富的无标签样本的选择。VAE 和状态判别器之间的动态交互创造了一个竞争环境，VAE 试图欺骗判别器，而状态判别器则学习区分有标签和无标签输入。在多种数据集上的广泛评估和消融分析证实了所提出模型的有效性。
引用
@article{arxiv.2503.07506,
title = {ADROIT: A Self-Supervised Framework for Learning Robust Representations for Active Learning},
author = {Soumya Banerjee and Vinay Kumar Verma},
journal= {arXiv preprint arXiv:2503.07506},
year = {2025}
}