基于不充分标注的多域学习
机器学习
2023-07-31 v3
摘要
多域学习（MDL）指同时在来自不同域的数据集上构建单一模型或一组模型。传统方法遵循共享-私有框架（SP 模型）强调域共享信息提取与域私有信息保留，相较单域学习具有显著优势。然而，各域中标注数据的有限可用性严重阻碍了传统监督式 MDL 方法在真实应用中的有效性。本文引入一种称为多域对比学习（MDCL）的新方法来通过从标注与未标注数据中捕获语义与结构信息，缓解不充分标注的影响。具体而言，MDCL 包含两个模块：域间语义对齐与域内对比。前者旨在将来自不同域的同一语义类别的标注样本在共享隐空间中对齐，后者专注于在每个域的私有隐空间中学习未标注样本的簇结构。MDCL 易于与许多 SP 模型兼容，无需额外模型参数且支持端到端训练。在五个文本与图像多域数据集上的实验结果表明，MDCL 相较多种 SP 模型带来明显提升。此外，MDCL 可进一步用于多域主动学习（MDAL）以实现更优初始化，最终带来更好的整体性能。
引用
@article{arxiv.2305.02757,
title = {Multi-Domain Learning From Insufficient Annotations},
author = {Rui He and Shengcai Liu and Jiahao Wu and Shan He and Ke Tang},
journal= {arXiv preprint arXiv:2305.02757},
year = {2023}
}
备注
This paper has been accepted to ECAI-23