Softmax 方法不够（用于自适应保守分类）
机器学习
2026-02-24 v1 人工智能
摘要
保守预测（Conformal Prediction, CP）的优势在于作为一种分布无关的不确定性量化框架，其预测集合需具备高效性（即小平均集合大小）和自适应性（即根据输入难度变化来信号不确定性）。深度保守分类器的核心限制在于，非侵蚀得分来源于 softmax 输出，而这些输出有时会不可靠地反映模型对给定输入真正的确定性，导致过度自信的误分类或不必要的犹豫。在本工作中，我们认为这种不可靠性会被继承到由 CP 生成的预测集合中，从而限制其自适应能力。我们提出了一种新方法，利用预 softmax 逻辑空间中的信息，通过 Helmholtz 自由能作为模型不确定性和样本难度的度量。通过对每个样本的能量得分进行单调变换来对非侵蚀得分进行重新加权，我们提高了其对输入难度的灵敏度。我们在多个数据集和深层架构上使用四种最新得分函数进行实验，结果表明，这种能量基于的方法提高了预测集合的自适应性，使其在效率和自适应性方面相较于基线非侵蚀得分实现显著提升，且无需引入任何后处理复杂度。
引用
@article{arxiv.2602.19498,
title = {Softmax is not Enough (for Adaptive Conformal Classification)},
author = {Navid Akhavan Attar and Hesam Asadollahzadeh and Ling Luo and Uwe Aickelin},
journal= {arXiv preprint arXiv:2602.19498},
year = {2026}
}