中文

更多专家会导致什么情况下:多专家学习推迟中的欠拟合

机器学习 2026-02-20 v1 机器学习

摘要

学习推迟 (L2D) 使分类器能够放弃预测并委托给专家,最近已扩展到多专家设置。在本工作中,我们指出多专家 L2D 远比单专家情况更具挑战性。当存在多个专家时,分类器的欠拟合已内在化,这严重降低了预测性能,而在单专家设置下,欠拟合仅在特定条件下才会出现。我们理论性地揭示,这源于一种内在的专家可识别性问题:从多样化的专家池中学习如何信赖某个专家,这一问题在单专家情况下不存在,使得现有的欠拟合补救措施失效。为解决这一问题,我们提出了 PiCCE (挑选自信且正确的专家),一种基于准则的方法,能够基于经验证据自适应地识别可靠的专家。PiCCE 有效地将多专家 L2D 问题简化为单专家类似的学习问题,从而解决了多专家欠拟合问题。我们进一步证明了其统计一致性以及恢复类概率和专家准确性的能力。广泛的实验在各种设置中,包括真实世界的专家场景,验证了我们的理论结果并展示了 improved 性能。

关键词

引用

@article{arxiv.2602.17144,
  title  = {When More Experts Hurt: Underfitting in Multi-Expert Learning to Defer},
  author = {Shuqi Liu and Yuzhou Cao and Lei Feng and Bo An and Luke Ong},
  journal= {arXiv preprint arXiv:2602.17144},
  year   = {2026}
}