生成建模助力弱监督(反之亦然)
机器学习
2023-03-14 v6 人工智能
计算机视觉与模式识别
机器学习
摘要
有监督机器学习的许多有前景的应用在获取足够数量与质量的标注数据时面临障碍,造成了昂贵的瓶颈。为克服此类限制,不依赖于真实标签的技术已被研究,包括弱监督与生成建模。尽管这些技术看似可协同使用、相互改进,但如何在其间构建接口尚不清晰。本工作中,我们提出一种融合程序化弱监督与生成对抗网络(GAN)的模型,并为该融合提供理论依据。所提方法在数据中捕获离散潜变量以及由弱监督导出的标签估计。二者的对齐使得能更好地建模弱监督源的依赖于样本的准确率,从而改进对未观测标签的估计。这是首个通过弱监督合成图像与伪标签实现数据增强的方法。此外,其学到的潜变量可进行定性检视。该模型在多个多类图像分类数据集上优于基线弱监督标签模型,提升了生成图像的质量,并通过合成样本的数据增强进一步提高了末端模型性能。
引用
@article{arxiv.2203.12023,
title = {Generative Modeling Helps Weak Supervision (and Vice Versa)},
author = {Benedikt Boecking and Nicholas Roberts and Willie Neiswanger and Stefano Ermon and Frederic Sala and Artur Dubrawski},
journal= {arXiv preprint arXiv:2203.12023},
year = {2023}
}
备注
Published as a conference paper at ICLR 2023