覆盖信息解耦：通过无偏置换重要性实现模型透明性
机器学习
2021-11-23 v2 人工智能
摘要
模型透明性是许多领域的先决条件，也是机器学习研究中日益流行的方向。例如，在医学领域，揭示疾病背后的机制往往比诊断本身具有更高优先级，因为它可能决定或指导潜在的治疗和研究方向。解释模型全局预测最流行的方法之一是置换重要性，该方法将置换数据上的性能与基线进行基准比较。然而，该方法及其他相关方法在存在协变量时会低估特征的重要性，因为这些协变量覆盖了其提供的一部分信息。为解决此问题，我们提出覆盖信息解耦(CID)，一种考虑所有特征信息重叠以校正置换重要性所提供值的方法。我们进一步展示了在与马尔可夫随机场结合时如何高效计算CID。我们首先在一个受控的玩具数据集上展示了其在校正置换重要性方面的有效性，并讨论了其在真实世界医学数据上的效果。
引用
@article{arxiv.2111.09744,
title = {Covered Information Disentanglement: Model Transparency via Unbiased Permutation Importance},
author = {João Pereira and Erik S. G. Stroes and Aeilko H. Zwinderman and Evgeni Levin},
journal= {arXiv preprint arXiv:2111.09744},
year = {2021}
}