中文

域适应中具有更低偏差与方差的可迁移校准

机器学习 2020-11-10 v2 机器学习

摘要

域适应(DA)使得学习机器能从有标签的源域迁移至无标签的目标域。尽管已取得显著进展,现有大多数 DA 方法聚焦于提升推理时的目标精度。如何估计 DA 模型的预测不确定性对于安全关键场景中的决策至关重要,但仍属待探索的边界。本文深入探究 DA 中校准这一开放问题,其因域偏移与目标标签缺失的共存而极具挑战。我们首先揭示了 DA 模型以良好校准概率为代价学习更高精度的困境。受此发现驱动,我们提出可迁移校准(TransCal),以在一个统一的无超参数优化框架中实现偏差与方差更低的更准确校准。作为一种通用的事后校准方法,TransCal 可轻易应用于重新校准现有 DA 方法。其有效性已在理论与经验上得到证实。

关键词

引用

@article{arxiv.2007.08259,
  title  = {Transferable Calibration with Lower Bias and Variance in Domain Adaptation},
  author = {Ximei Wang and Mingsheng Long and Jianmin Wang and Michael I. Jordan},
  journal= {arXiv preprint arXiv:2007.08259},
  year   = {2020}
}