基于虚拟对抗扰动的不确定性句子采样
计算与语言
2022-10-28 v2
摘要
面向句子理解的主动学习试图通过识别最具信息量的样本来降低标注成本。在基于池的场景中，常用的主动学习方法采用不确定性采样或多样性采样。在这项工作中，为了结合预测不确定性和样本多样性，我们提出了用于主动学习的虚拟对抗扰动（VAPAL）框架，这是一种不确定性-多样性结合框架，使用虚拟对抗扰动（Miyato et al., 2019）作为模型不确定性的表示。在四个句子理解数据集：AGNEWS、IMDB、PUBMED和SST-2上，VAPAL的表现始终与强基线相当甚至更好，为句子理解任务上的主动学习提供了一个潜在选项。
引用
@article{arxiv.2210.14576,
title = {Uncertainty Sentence Sampling by Virtual Adversarial Perturbation},
author = {Hanshan Zhang and Zhen Zhang and Hongfei Jiang and Yang Song},
journal= {arXiv preprint arXiv:2210.14576},
year = {2022}
}