基于关联影响比率的复杂 AI 模型可解释性
机器学习
2026-01-13 v1 人工智能
应用统计
摘要
复杂的 AI 系统虽然能够做出更好的预测，但往往缺乏透明度，限制了其可信度、可解释性以及安全部署。常见的后置 AI 可解释方法，如 LIME、SHAP、HSIC 和 SAGE，虽然具有模型无关性，但在一个重要方面受到限制：它们倾向于误排名关联特征，并需要高昂的扰动成本，这在高维数据上难以扩展。我们引入 ExCIR（Explainability through Correlation Impact Ratio），这是一种在理论上有据可依、简单可靠的指标，用于解释输入特征对模型输出的贡献，其在噪声和抽样变异下保持稳定和一致。我们展示了 ExCIR 通过轻量级单次遍历形式捕捉由相关特征引起的依赖关系。在多样化数据集上进行的实验评估，包括 EEG、合成交通数据、Digits 和 Cats-Dogs，验证了 ExCIR 在不同领域内的有效性和稳定性，实现了比现有方法更具可解释性的特征解释，同时保持计算效率。为此，我们进一步以信息论为基础扩展 ExCIR，将关联比率与典相关分析在互信息边界下统一，实现大规模下的多输出和类别条件可解释性。
引用
@article{arxiv.2601.06701,
title = {Explainability of Complex AI Models with Correlation Impact Ratio},
author = {Poushali Sengupta and Rabindra Khadka and Sabita Maharjan and Frank Eliassen and Yan Zhang and Shashi Raj Pandey and Pedro G. Lind and Anis Yazidi},
journal= {arXiv preprint arXiv:2601.06701},
year = {2026}
}