用于不和谐检测的迁移与主动学习：应对稀有类别挑战
计算与语言
2023-05-08 v2 机器学习
摘要
尽管基于 transformer 的系统已能用更少的训练样本实现更高的准确率，但对于稀有类别任务——即类别标签极不频繁（例如少于 5% 的样本）时——数据获取障碍依然存在。主动学习通常被提出以缓解此类挑战，但选择策略（即挑选稀有类别样本的标准）尚未被系统评估。此外，transformer 支持迭代式迁移学习方法。我们提出并研究了针对不和谐检测这一稀有类别问题的迁移与主动学习解决方案，利用在密切相关任务上训练的模型，并评估包括所提出的概率-稀有类别（PRC）方法在内的获取策略。我们针对一个具体的稀有类别问题开展实验：从社交媒体收集认知不和谐的语言样本。我们发现 PRC 是一种简单而有效的策略，可指导标注并最终提升模型准确率；而以特定顺序进行迁移学习可改善学习器的冷启动性能，但无益于主动学习的迭代过程。
引用
@article{arxiv.2305.02459,
title = {Transfer and Active Learning for Dissonance Detection: Addressing the Rare-Class Challenge},
author = {Vasudha Varadarajan and Swanie Juhng and Syeda Mahwish and Xiaoran Liu and Jonah Luby and Christian Luhmann and H. Andrew Schwartz},
journal= {arXiv preprint arXiv:2305.02459},
year = {2023}
}