基于扰动的两阶段多域主动学习
机器学习
2023-06-21 v1
摘要
在多域学习（MDL）场景中，由于从各域收集数据的复杂性，需要较高的标注代价。主动学习（AL）通过标注较少量高信息量样本从而降低标注代价，为此问题提供了一种有前景的解决方案。先前研究依赖常规 AL 策略处理 MDL 场景，在选取过程中未充分利用每个样本的领域共享信息。为缓解此问题，我们提出一种新颖的基于扰动的两阶段多域主动学习（P2S-MDAL）方法，并融入广受认可的 ASP-MTL 模型。具体而言，P2S-MDAL 涉及为各域分配预算并建立多样性选择区域，进而用于在每个区域中选择最具跨域影响力的样本。引入了一种扰动度量来评估模型共享特征提取器的鲁棒性，便于识别潜在的跨域影响力样本。实验在涵盖文本与图像的三个真实世界数据集上进行。相对于常规 AL 策略的优越性能表明了所提策略的有效性。此外，进行了消融研究以证明各组件的合理性。最后，我们概述了未来 MDAL 研究的若干有趣潜在方向，从而推动该领域发展。
引用
@article{arxiv.2306.10700,
title = {Perturbation-Based Two-Stage Multi-Domain Active Learning},
author = {Rui He and Zeyu Dai and Shan He and Ke Tang},
journal= {arXiv preprint arXiv:2306.10700},
year = {2023}
}