强制公平性对机器学习模型解释的重塑效应

可信的医疗领域机器学习需要强大的预测性能、公平性和解释性。虽然已知提高公平性会影响预测性能，但如何影响公平性对解释性的影响尚不为人知，而解释性是临床信任的关键要素。临床医生可能会因解释在公平性约束应用后发生变化而犹豫是否依赖该模型。本研究检验了通过偏差缓解技术提高公平性如何重塑基于Shapley值的特征排序。我们在三个数据集上量化了在应用公平性约束后特征重要性排序的变化：儿童尿路感染风险、直接抗凝剂出血风险和再犯风险。我们还评估了多个模型类别中基于Shapley值的排序稳定性。我们发现，跨种族子群提高模型公平性会显著改变特征重要性排序，在不同子群中可能呈现不同方式。这些结果凸显了在模型评估中需要联合考虑准确性、公平性和解释性，而不能孤立地考虑。