基于元学习交叉验证共形预测的少样本集合预测器校准
机器学习
2022-10-07 v1 机器学习
信号处理
摘要
众所周知,常规频率学派学习会产生校准不良的模型,无法可靠量化其决策的不确定性。贝叶斯学习可改善校准,但形式化保证仅在对正确模型设定的严格假设下成立。共形预测 (CP) 提供了一个通用框架,用于设计具有校准保证的集合预测器,该保证无论底层数据生成机制如何均成立。然而,当训练数据有限时,CP 往往产生庞大因而无信息的预测集合。本文提出一种新颖的元学习方案,旨在减小集合预测尺寸。与先前工作不同,所提元学习方案(称为 meta-XB)(i) 基于交叉验证共形预测,而非效率较低的基于验证的 CP;(ii) 保持逐任务的形式化校准保证,而非较宽松的任务边缘保证。最后,meta-XB 被推广至自适应非共形分数,经验表明其可进一步增强边缘逐输入校准。
引用
@article{arxiv.2210.03067,
title = {Few-Shot Calibration of Set Predictors via Meta-Learned Cross-Validation-Based Conformal Prediction},
author = {Sangwoo Park and Kfir M. Cohen and Osvaldo Simeone},
journal= {arXiv preprint arXiv:2210.03067},
year = {2022}
}
备注
submitted for journal publication