早停训练的神经网络的保形推断几乎无额外代价
机器学习
2023-06-28 v2 机器学习
统计理论
统计理论
摘要
基于留出数据的早停是一种流行的正则化技术，旨在缓解过拟合并提高神经网络的预测准确率。使用早停训练的模型通常提供相对准确的预测，但除非使用独立的留出数据进一步校准，否则一般仍缺乏精确的统计保证。本文以保形化早停解决上述局限：一种将早停与保形校准结合并高效复用同一留出数据的新方法。这产生了既准确又能提供精确预测推断而无需多次数据切分或过度保守调整的模型。针对不同的学习任务——离群值检测、多类分类、回归——开发了实用实现，并在真实数据上展示了其具有竞争力的表现。
引用
@article{arxiv.2301.11556,
title = {Conformal inference is (almost) free for neural networks trained with early stopping},
author = {Ziyi Liang and Yanfei Zhou and Matteo Sesia},
journal= {arXiv preprint arXiv:2301.11556},
year = {2023}
}
备注
Updates: extension to quantile regression, some further details about methodology, more numerical experiments