多域主动学习:文献综述与比较研究
机器学习
2022-10-18 v6 人工智能
摘要
多域学习(MDL)指同时学习一组模型,其中每个模型专门用于在特定域中执行任务。通常,MDL需要很高的标注代价,因为数据需要由人类专家为每个域标注。主动学习(AL)可用于MDL中,仅使用信息量最大的数据来降低标注代价。由此产生的范式被称为多域主动学习(MDAL)。本工作中,我们对MDAL在相关领域进行了详尽的文献综述,包括AL、跨域信息共享方案以及跨域样本评估方法。我们发现,少数直接针对MDAL进行的研究无法作为更通用MDAL任务的即用解决方案。为填补这一空白,我们构建了MDAL流程,并对三十种不同算法进行了全面的比较研究,这些算法由六种代表性MDL模型与五种常用AL策略组合而成。我们在涉及文本与视觉分类任务的六个数据集上评估了这些算法。在大多数情况下,AL为MDL带来了显著提升,且朴素的BvSB(best vs. second best,最优对次优)不确定性策略可与最先进的AL策略竞争。此外,BvSB结合MAN(多类对抗网络)模型在所有数据集上一致地取得顶尖或高于平均的性能。进一步,我们定性分析了表现良好的策略与模型的行为,揭示了它们在比较中优越性能的原因。最后,鉴于其在实验中的良好表现,我们推荐在MDAL应用中使用BvSB结合MAN模型。
引用
@article{arxiv.2106.13516,
title = {Multi-Domain Active Learning: Literature Review and Comparative Study},
author = {Rui He and Shengcai Liu and Shan He and Ke Tang},
journal= {arXiv preprint arXiv:2106.13516},
year = {2022}
}
备注
This work has been accepted by IEEE-TETCI