基于参数高效不确定性校准的视觉语言模型主动学习优化
计算机视觉与模式识别
2025-07-30 v1
摘要
主动学习已成为通过有选择地采样最具信息量的数据来最小化神经网络模型开发中标注成本的强大方法。有效地针对大规模视觉语言模型进行主动学习需要解决在参数规模庞大的情况下进行不确定性估计和高效采样的挑战。本文引入一种新颖的参数高效学习方法，将不确定性校准损失纳入主动学习框架。我们提出一种可微损失函数，以有效选择更少且最具信息量的数据样本进行微调。通过多个数据集和视觉骨干网络的广泛实验，我们展示了该解决方案能够在计算效率方面非常高效，匹配并超越复杂特征基准采样技术的性能。此外，我们还探讨了Prompt学习与低秩适应(LoRA)在样本选择中的有效性，提供了这些方法在高效主动学习语境下的详细比较分析。
引用
@article{arxiv.2507.21521,
title = {Optimizing Active Learning in Vision-Language Models via Parameter-Efficient Uncertainty Calibration},
author = {Athmanarayanan Lakshmi Narayanan and Amrutha Machireddy and Ranganath Krishnan},
journal= {arXiv preprint arXiv:2507.21521},
year = {2025}
}
备注
International Joint Conference on Neural Networks 2025 (Accepted)