基于置信传播的众包鲁棒深度学习
机器学习
2022-02-25 v2 人工智能
机器学习
摘要
众包系统使我们能够收集大规模数据集，但固有地受到低薪标注者噪声标签的困扰。我们处理使用此类含噪声众包数据集的推断与学习问题。由于众包中稀疏性的本质，关键在于利用概率模型捕捉标注者先验，并利用神经网络提取任务特征，尽管实践中存在错误先验与过拟合特征的风险。因此我们建立了一个神经驱动的贝叶斯框架，并由此设计了deepMF与deepBP，分别采用不同的变分近似方法——均值场(MF)与置信传播(BP)。这提供了对现有方法的统一视角，它们是具有不同先验的deepMF的特例。此外，我们的实证研究表明，deepBP是一种新方法，由于比MF更精细的BP，它对错误先验、特征过拟合和极端标注者更具鲁棒性。
引用
@article{arxiv.2111.00734,
title = {Robust Deep Learning from Crowds with Belief Propagation},
author = {Hoyoung Kim and Seunghyuk Cho and Dongwoo Kim and Jungseul Ok},
journal= {arXiv preprint arXiv:2111.00734},
year = {2022}
}