面向均匀稳定学习算法的训练条件覆盖界限
机器学习
2024-04-23 v1 机器学习
摘要
训练条件覆盖性能的 conformal 预测已被证明在实证上是可靠的。最近有研究努力通过 -稳定性概念为 jackknife+ 和 full-conformal 预测区域建立训练条件覆盖界限 Liang and Barber~[2023]。虽然这种概念比均匀稳定性弱,但尚不清楚如何对实际模型进行评估。本文我们从均匀稳定性视角研究 full-conformal、jackknife+ 和 CV+ 预测区域的训练条件覆盖界限,而均匀稳定性已知适用于具有凸正则化的 reproducing kernel Hilbert 空间上的经验风险最小化。我们通过对预测函数的(估计)浓度 argument 推导有限维模型的覆盖界限,并在岭回归下与现有结果进行比较。
引用
@article{arxiv.2404.13731,
title = {Training-Conditional Coverage Bounds for Uniformly Stable Learning Algorithms},
author = {Mehrdad Pournaderi and Yu Xiang},
journal= {arXiv preprint arXiv:2404.13731},
year = {2024}
}
备注
Accepted to the ISIT 2024 workshop on Information-Theoretic Methods for Trustworthy Machine Learning (IT-TML)