标注质量差异下可信赖的联邦标签分布学习
机器学习
2026-05-12 v2
摘要
标签分布学习 (LDL) 将监督建模为逐实例的概率分布,能够在固有的模糊性下实现细粒度学习,但其成功依赖于高保真度的标签分布,这类分布获取成本高昂,因此常常带有噪声。受隐私敏感应用的启发,我们研究了联邦标签分布学习 (Fed-LDL),其中数据隔离进一步导致各客户端间标注质量异构,使得本地更新可靠性不均,并破坏了基于样本量的聚合 (如 FedAvg)。为了解决这一信任困境,我们提出了 FedQual,一个质量感知的 Fed-LDL 框架,包含两个耦合机制:(i) 由全局语义锚点引导的质量自适应客户端训练,该校准低质量客户端同时保留高质量客户端的自主性;(ii) 可靠性感知的服务器聚合,根据有效的可靠信息而非原始样本量对客户端贡献进行重新加权。为了实现严格的评估,我们构建了四个具有受控标注质量差异的新 Fed-LDL 基准 (FER-LDL、FI-LDL、PIPAL-LDL 和 KADID-LDL)。我们进一步提供了理论保证,表明在异构监督质量下,特定客户端校准严格优于任何统一校准。在所提基准上的大量实验证明了 FedQual 的有效性。
引用
@article{arxiv.2605.04827,
title = {Trustworthy Federated Label Distribution Learning under Annotation Quality Disparity},
author = {Junxiang Wu and Zhiqiang Kou and Hongwei Zeng and Wenke Huang and Biao Liu and Hanlin Gu and Yuheng Jia and Di Jiang and Yang Liu and Xin Geng},
journal= {arXiv preprint arXiv:2605.04827},
year = {2026}
}