中文

知晓你所知:多类与多标签预测中有效且经验证的置信集

机器学习 2020-07-14 v3 机器学习 统计方法学

摘要

我们发展了保形预测方法,用于在多类与多标签问题中构造有效的预测置信集,且不对数据生成分布作假设。此处的一个挑战是,典型的保形预测方法——其给出边际有效性(覆盖)保证——提供不均衡的覆盖,因为它们以牺牲基本忽略困难样本为代价来处理简单样本。通过借助分位数回归的思想,我们构建了始终保证正确覆盖、且额外为多类与多标签预测问题提供(渐近最优)条件覆盖的方法。为应对多标签预测中置信集可能呈指数级庞大的挑战,我们构建了树结构分类器以有效考虑标签间交互。我们的方法可加装在任意分类模型——神经网络、随机森林、提升树——之上以保证其有效性。我们还提供了实证评估,同时给出新的验证方法,表明了我们置信集更具鲁棒性的覆盖。

关键词

引用

@article{arxiv.2004.10181,
  title  = {Knowing what you know: valid and validated confidence sets in multiclass and multilabel prediction},
  author = {Maxime Cauchois and Suyash Gupta and John Duchi},
  journal= {arXiv preprint arXiv:2004.10181},
  year   = {2020}
}

备注

Updated section on multilabel settings addressing the cases when labels may repel each other