确保：降低预测中认识不确定性的解释

本文解决了可解释人工智能中的一个重要差距，即解释预测中认识不确定性的必要性。虽然当前方法主要聚焦于解释预测，部分方法包括不确定性，但未能提供如何降低这些预测中固有不确定性的指导。为克服这一挑战，我们引入新的解释类型，专门针对认识不确定性。这些包括确保解释（ensured explanations），它们突出显示可以降低不确定性的特征修改，以及对不可信解释的分类，探索替代情景。我们的工作强调，认识不确定性为解释质量添加了一个关键维度，要求基于不仅仅是预测概率，还要考虑不确定性降低。我们引入了新的指标——确保排序（ensured ranking），旨在帮助用户识别最可靠的解释，通过在不确定性、概率和竞争性替代解释之间进行权衡。此外，我们扩展了校准解释方法（Calibrated Explanations），纳入了可视化特征值变化如何影响认识不确定性的工具。该增强提供了更深入的模型行为洞察，推动解释力度提高，以及在涉及不可信预测情景中的合适信任。