中文

迁移标注者与实例相关的转移矩阵以从众包中学习

人机交互 2024-04-16 v3 人工智能 机器学习

摘要

从众包中学习是指训练数据的标注通过众包服务获得。多名标注者各自完成其小部分标注,其中依赖于标注者的标注错误频繁发生。利用噪声转移矩阵对标签噪声生成过程建模是处理标签噪声的有力工具。在真实众包场景中,噪声转移矩阵同时依赖于标注者与实例。然而,由于标注者与实例相关的转移矩阵(AIDTM)的高复杂性,标注稀疏性(即每名标注者仅标注少量实例)使得对 AIDTM 建模极具挑战。先前工作通过假设转移矩阵与实例无关或采用简单参数化方式简化问题,损失了建模通用性。受此驱动,我们面向更实际的问题,即估计实践中通用的 AIDTM。在不损失建模通用性的前提下,我们用深度神经网络参数化 AIDTM。为缓解建模挑战,我们假设每名标注者与其相似标注者共享噪声模式,并通过知识迁移估计 AIDTM。因此我们先对所有标注者的噪声模式混合进行建模,再将此建模迁移至个体标注者。此外,考虑到从噪声模式混合到个体的迁移可能导致噪声生成高度不同的两名标注者相互干扰,我们采用已识别邻近标注者间的知识迁移来校准建模。理论分析表明,从全局到个体的知识迁移与邻近个体间的知识迁移均有助于建模通用 AIDTM。实验在合成与真实众包数据上证实了所提方法的优越性。

关键词

引用

@article{arxiv.2306.03116,
  title  = {Transferring Annotator- and Instance-dependent Transition Matrix for Learning from Crowds},
  author = {Shikun Li and Xiaobo Xia and Jiankang Deng and Shiming Ge and Tongliang Liu},
  journal= {arXiv preprint arXiv:2306.03116},
  year   = {2024}
}

备注

Accepted by IEEE TPAMI. 22 pages, 4 figures, and 8 tables