超边际特征重要性：从具有因果保证的数据中学习
机器学习
2024-11-12 v5 信息论
机器学习
math.IT
应用统计
摘要
科学家经常优先从数据中学习而非训练尽可能最佳的模型；然而，机器学习研究通常优先考虑后者。边际贡献特征重要性（MCI）旨在打破这一趋势，提供量化数据中关系的实用框架。在本工作中，我们旨在通过引入超边际特征重要性（UMFI）来改进 MCI 的理论性质、性能和运行时间，UMFI 以 AI 公平性文献中的依赖去除技术为基础。我们首先提出寻求解释数据中因果与关联关系的特征重要性方法的公理，并证明 UMFI 在基本假设下满足这些公理。然后我们在真实和模拟数据上表明，UMFI 比 MCI 表现更好，尤其在存在相关交互和无关特征时，同时部分学习因果图的结构并将 MCI 的指数级运行时间降至超线性。
引用
@article{arxiv.2204.09938,
title = {Ultra-marginal Feature Importance: Learning from Data with Causal Guarantees},
author = {Joseph Janssen and Vincent Guan and Elina Robeva},
journal= {arXiv preprint arXiv:2204.09938},
year = {2024}
}