面向可解释AI的多准则排序聚合方法
机器学习
2025-06-02 v1
摘要
可解释性对于提升黑盒机器学习模型的透明度至关重要。随着 LIME 和 SHAP 等解释方法的进步，各种 XAI 性能指标被开发出来以评估解释的质量。然而，不同的解释器可能对同一预测给出截然不同的解释，导致在相互冲突的质量指标之间产生权衡。尽管现有的聚合方法提高了鲁棒性并降低了解释的变异性，但采用多准则决策方法的研究非常有限。为填补这一空白，本文提出了一种多准则基于排序的加权聚合方法，该方法同时平衡多个质量指标以生成解释模型集成。此外，我们提出了现有 XAI 指标（复杂度、忠实度和稳定性）的基于排序的版本，以更好地评估排序特征重要性解释。在公开可用数据集上的大量实验证明了所提模型在这些指标上的鲁棒性。对各种多准则决策和排序聚合算法的比较分析表明，TOPSIS 和 WSUM 是该用例的最佳候选方法。
引用
@article{arxiv.2505.24612,
title = {Multi-criteria Rank-based Aggregation for Explainable AI},
author = {Sujoy Chatterjee and Everton Romanzini Colombo and Marcos Medeiros Raimundo},
journal= {arXiv preprint arXiv:2505.24612},
year = {2025}
}
备注
Accepted at the 2025 International Joint Conference on Neural Networks (IJCNN)