后置可解释性 illumination 用于科学互动发现
机器学习
2024-12-24 v1 人工智能
机器学习
摘要
模型的可解释性和可解释性在近年来已广受关注，尤其是在决策制定应用中。然而，现有的可解释性工具往往因能力有限或效率问题而未能提供令人满意的效果。为此，我们提出了一种新颖的后置方法：迭代国王森林（iKF），旨在揭示变量之间复杂的多阶互动。iKF 不断迭代选择下一个最重要的变量，即“国王”，并通过将其置于每棵树的根节点来构建国王森林，以识别与“国王”发生互动的变量。随后，它生成不同阶数重要变量和互动的排序短列表。此外，iKF 提供推断指标，用于分析所选互动的模式，并将其分类为三种互动类型中的一种：伴随型互动、协同型互动和层次型互动。大量实验表明，我们提出的 iKF 拥有强大的解释力，凸显其在跨越 diverse 科学领域的可解释建模和科学发现中的巨大潜力。
引用
@article{arxiv.2412.16252,
title = {Post-hoc Interpretability Illumination for Scientific Interaction Discovery},
author = {Ling Zhang and Zhichao Hou and Tingxiang Ji and Yuanyuan Xu and Runze Li},
journal= {arXiv preprint arXiv:2412.16252},
year = {2024}
}