基于Jensen-Shannon距离的多类局部校准

开发可信赖的机器学习（ML）模型需要其预测概率反映真实类别频率。对于多类分类中的校准概念，强校准是最严格的一种，因为它要求所有预测概率在所有类别上同时校准。然而，现有的多类校准方法缺乏输入之间距离的概念，这使它们对靠近偏差（proximity bias）十分脆弱：稀疏区域的预测系统性地误校准。在本工作中，我们通过引入多类局部校准的视角来解决这一主要短板。首先，我们正式定义了多类局部校准，并建立了其与强校准之间的关系。其次，我们理论分析了现有评估指标应用于多类局部校准时的漏洞。其次，我们提出一种实用方法来增强神经网络中的局部校准，该方法通过Jensen-Shannon距离强制预测概率与本地类别频率的局部估计值保持一致。最后，我们经验上验证了我们的方法与现有的多类校准技术的优劣。