面向端到端优化的共轭风险训练
机器学习
2025-10-13 v1
摘要
虽然深度学习模型通常能实现高预测准确率，但其预测通常不具备对风险或可靠性的可证明保证，而这些保证对于部署在高风险应用场景至关重要。共轭风险控制 (CRC) 框架提供了一种分布无关、有限样本的方法，用于控制任何有界单调损失函数的期望值，可便捷地应用于后处理任何预训练的深度学习模型。然而，许多现实应用更关注尾部风险，而不仅仅是期望损失。本文发展了控制优化确定性当量 (OCE) 风险的通用类的方法，这一广泛的风险度量类别包括作为特例的期望损失（概括原CRC方法）以及诸如条件价值-at-risk (CVaR) 等常见尾部风险。此外，标准的后处理CRC方法由于缺乏对模型的反馈，可能降低平均情况性能。为此，我们引入“共轭风险训练”，一种在模型训练或微调期间通过共轭OCE风险控制进行可微分的端到端方法。我们的方法在保证风险保证的同时，在控制分类器的假阴性率以及控制电池储能运营中的金融风险等应用上显著优于后处理方法，实现了显著的平均情况性能提升。
引用
@article{arxiv.2510.08748,
title = {Conformal Risk Training: End-to-End Optimization of Conformal Risk Control},
author = {Christopher Yeh and Nicolas Christianson and Adam Wierman and Yisong Yue},
journal= {arXiv preprint arXiv:2510.08748},
year = {2025}
}
备注
accepted to NeurIPS 2025