通过理解不确定性校准来提高基于扰动的解释

基于扰动的解释在实际中广泛用于增强机器学习模型的透明度。然而，由于模型在所使用的特定扰动下的行为未知，往往会损害解释的可靠性。本文研究了不确定性校准——即模型置信度与实际准确性对齐——与基于扰动的解释之间的关系。我们表明，模型在受到解释特定扰动时会系统性地产生不可靠的概率估计，这直接削弱了全局和局部解释质量。为此，我们引入ReCalX，一种一种新颖的方法，用于改进解释的校准，同时保持原始预测。跨越 diverse models and datasets的经验评估表明，ReCalX在减少扰动特定的校准不良方面最有效，并且增强了解释的鲁棒性以及对全局重要输入特征的识别。