通过特征遮蔽与置换获得公平特征重要性得分
机器学习
2026-02-11 v1 机器学习
摘要
随着机器学习模型在社会中的应用日益增长，其不透明的本质在公平性语境下提出了信任和问责制的挑战。理解单个特征如何影响模型结果对于构建可解释且公平的模型至关重要。虽然特征重要性指标在准确性方面已相当成熟，但但用于评估特征对公平性贡献的方法仍鲜有探索。我们提出两种模型无关的方法来衡量公平特征重要性。首先，我们提出通过置换特征值来比较模型在置换前后的公平性。这种简单的基于干预的方法将特征与模型预测脱钩，以衡量其对训练的贡献。其次，我们评估使用该特征训练的模型与不使用该特征训练的模型之间的公平性。这种基于遮蔽的得分通过 mini-patch 学习实现了显著的计算简化。我们的实证结果反映了我们提出方法的简单性和有效性，适用于多个预测任务。这两种方法为量化特征对公平性影响提供了简单、可扩展且可解释的解决方案，为负责任的机器学习开发提供了新的工具。
引用
@article{arxiv.2602.09196,
title = {Fair Feature Importance Scores via Feature Occlusion and Permutation},
author = {Camille Little and Madeline Navarro and Santiago Segarra and Genevera Allen},
journal= {arXiv preprint arXiv:2602.09196},
year = {2026}
}