基于对抗随机森林的条件特征重要性
机器学习
2025-01-22 v1 机器学习
摘要
本文提出了一种通过生成模型测量条件特征重要性的方法。在可解释人工智能 (XAI) 中，条件特征重要性评估给定其他特征信息后，特征对预测模型性能的影响。模型中立的事后方法通常通过对 on-manifold 特征值进行操作来评估预测性能的变化。此类程序需要创建遵循条件特征分布的特征值，这在实践中具有挑战性。最近的生成模型进展可以促进这一点。对于表格数据（可能包含分类和连续特征），对抗随机森林 (ARF) 作为一种生成模型，能够在不 requiring 大量调参或计算资源的情况下生成 on-manifold 数据点，使其成为 XAI 方法子程序的有前景的候选模型。本文提出了 cARFi（conditional ARF feature importance），一种通过从 ARF 估计的条件分布中对特征值进行采样来测量条件特征重要性的方法。cARFi 只需很少的调参即可获得稳健的重要性分数，可灵活适应条件或边际意义上的特征重要性，包括对特征子集进行条件化的直接扩展，并允许通过统计检验推断特征重要性的显著性。
引用
@article{arxiv.2501.11178,
title = {Conditional Feature Importance with Generative Modeling Using Adversarial Random Forests},
author = {Kristin Blesch and Niklas Koenen and Jan Kapar and Pegah Golchian and Lukas Burk and Markus Loecher and Marvin N. Wright},
journal= {arXiv preprint arXiv:2501.11178},
year = {2025}
}