为可靠的扰动基解释引入不确定性校准

扰动基解释广泛用于提高现代机器学习模型的透明度。然而，由于对特定扰动下模型行为的未知性，往往削弱了其可靠性。本文探讨了不确定性校准——即模型置信度与实际准确性对齐——与扰动基解释之间的关系。我们表明，当模型遭受解释特定扰动时，常常会产生不可靠的概率估计，这直接削弱解释质量。为此，我们提出ReCalX方法，以改善扰动基解释的校准，同时保持原始预测。在流行计算机视觉模型上的实验表明，所提校准策略产生的解释更符合人类感知与实际物体位置。