中文

面向均匀稳定学习算法的训练条件覆盖界限

机器学习 2024-04-23 v1 机器学习

摘要

训练条件覆盖性能的 conformal 预测已被证明在实证上是可靠的。最近有研究努力通过 (m,n)(m,n)-稳定性概念为 jackknife+ 和 full-conformal 预测区域建立训练条件覆盖界限 Liang and Barber~[2023]。虽然这种概念比均匀稳定性弱,但尚不清楚如何对实际模型进行评估。本文我们从均匀稳定性视角研究 full-conformal、jackknife+ 和 CV+ 预测区域的训练条件覆盖界限,而均匀稳定性已知适用于具有凸正则化的 reproducing kernel Hilbert 空间上的经验风险最小化。我们通过对预测函数的(估计)浓度 argument 推导有限维模型的覆盖界限,并在岭回归下与现有结果进行比较。

关键词

引用

@article{arxiv.2404.13731,
  title  = {Training-Conditional Coverage Bounds for Uniformly Stable Learning Algorithms},
  author = {Mehrdad Pournaderi and Yu Xiang},
  journal= {arXiv preprint arXiv:2404.13731},
  year   = {2024}
}

备注

Accepted to the ISIT 2024 workshop on Information-Theoretic Methods for Trustworthy Machine Learning (IT-TML)