WeaNF：基于标准化流的弱监督方法
计算与语言
2022-05-03 v2 机器学习
摘要
降低对大型数据集昂贵人工标注需求的一种流行方法是弱监督，其带来了噪声标签、覆盖率和偏差等问题。克服这些问题的方法要么依赖判别式模型（以弱监督专用的代价函数训练），要么近期依赖生成式模型（试图对自动标注过程的输出建模）。本工作中，我们探索弱监督生成式建模的新方向：不对标注过程的输出（标注函数匹配）建模，而是对标注函数所覆盖的输入侧数据分布（特征空间）进行生成式建模。具体而言，我们利用标准化流(normalizing flows)为每个弱标注源（或标注函数）估计密度。我们方法的核心是对多个同时匹配的标注函数进行基于流的建模，从而捕捉标注函数重叠与相关性等现象。我们在多个常用弱监督数据集上分析了其有效性与建模能力，表明弱监督标准化流优于标准弱监督基线。
引用
@article{arxiv.2204.13409,
title = {WeaNF: Weak Supervision with Normalizing Flows},
author = {Andreas Stephan and Benjamin Roth},
journal= {arXiv preprint arXiv:2204.13409},
year = {2022}
}