共形预测的决策理论基础:面向风险规避智能体的最优不确定性量化
机器学习
2025-02-05 v1 人工智能
机器学习
摘要
数据驱动决策中的一个基本问题是如何量化预测的不确定性,从而有效地为下游行动提供信息。预测不确定性与决策之间的这种接口在医学等风险敏感领域尤为重要。在本文中,我们建立了决策理论基础,将使用预测集进行的不确定性量化与风险规避决策联系起来。具体来说,我们回答了三个基本问题:(1) 对于风险规避决策者而言,正确的不确定性量化概念是什么?我们证明,对于希望优化其风险价值的决策者来说,预测集是最优的。(2) 风险规避决策者应使用何种最优策略将预测集映射到行动?我们证明,一个简单的最大-最小决策策略对于风险规避决策者是最优的。最后,(3) 我们如何推导出对此类决策者最优的预测集?我们提供了总体情形下的精确刻画以及一种无分布、有限样本的构造方法。回答这些问题自然地引出了一个算法,即风险规避校准(RAC),它遵循一种可证明最优的设计,用于从预测中推导行动策略。RAC的设计兼顾了实用性——能够以黑盒方式利用预测质量来提升下游效用——和安全性——遵循用户定义的风险阈值并优化用户下游效用的相应风险分位数。最后,我们通过实验证明了RAC在医疗诊断和推荐系统等应用中的显著优势。具体而言,我们展示了RAC在安全性和效用之间实现了显著改善的权衡,在维持安全保证的同时,相比现有方法提供了更高的效用。
引用
@article{arxiv.2502.02561,
title = {Decision Theoretic Foundations for Conformal Prediction: Optimal Uncertainty Quantification for Risk-Averse Agents},
author = {Shayan Kiyani and George Pappas and Aaron Roth and Hamed Hassani},
journal= {arXiv preprint arXiv:2502.02561},
year = {2025}
}