GESD：超越结果导向的公平性

机器学习(ML)算法正在越来越多地部署在贷款批准、招聘和后果预测等高风险决策领域。虽然现有公平性指标(如统计比例、平等机会)有效量化结果导向的差异,但对偏见决策的程序或解释提供有限的见解。为弥合这一差距,我们提出了群组级解释稳定性差异(GESD),这是一种程序导向的公平性指标,其衡量受保护类别中不同子群体对模型解释稳定性、鲁棒性和灵敏性的差异。%GESD是解释器不可知、模型不可知的,并将公平性分析的范围扩展到解释层面。我们进一步将GESD集成到多目标优化框架中,该框架同时优化实用性、基于结果的公平性和基于解释的公平性,称为FEU(公平性--解释性--实用性)。在多个基准数据集上的实验结果表明,GESD有效捕捉组间解释质量的差异,FEU在SOTA方法之上显著提高了实用性和公平性。通过连接结果导向和解释导向的公平性,GESD为诊断和缓解预测建模中的偏见提供了全面的工具。我们的代码和数据集已在GitHub上提供。