随机性、可交换性与共形预测
机器学习
2025-06-10 v3 统计理论
机器学习
统计理论
摘要
本文倡导更广泛地使用随机性的函数论——一种对算法随机性理论的修正,去除了未指定的附加常数。两种理论对于理解独立同分布(IID)数据假设与数据可交换性之间的关系都很有用。虽然 IID 数据假设在机器学习中已是标准假设,但共形预测依赖于数据的可交换性。Nouretdinov、V'yugin 和 Gammerman 曾使用算法随机性理论的语言证明,共形预测在 IID 数据假设下是一种通用方法。在本文(为 Alex Gammerman 纪念文集而作)中,我将选择性回顾可交换性与 IID 性质之间的联系、共形预测的早期历史、我与 Alex 以及其他有趣人物的交往与合作,并将 Nouretdinov 等人的结果翻译为随机性函数论的语言,使其更贴近实践。具体而言,该翻译表明:任何对 IID 数据有效的置信预测器都可以转化为共形预测器,且不会在预测效率上有显著损失。
引用
@article{arxiv.2501.11689,
title = {Randomness, exchangeability, and conformal prediction},
author = {Vladimir Vovk},
journal= {arXiv preprint arXiv:2501.11689},
year = {2025}
}
备注
33 pages, 3 figures; since v2, historical details have been added and several proofs have been moved to arXiv:2502.19254