FEAMOE：公平、可解释且自适应的混合专家模型
机器学习
2022-10-12 v1 人工智能
计算机与社会
摘要
部署在高风险环境中的可信机器学习模型应具备的三个关键特性是公平性、可解释性以及应对各种“漂移”的能力。尽管模型准确率的漂移（例如由协变量偏移引起的）已被广泛研究，但公平性指标随时间的漂移在很大程度上仍未被探索。在本文中，我们提出了 FEAMOE，一个受“混合专家”启发的新颖框架，旨在学习更公平、更具可解释性/可解释性的模型，同时能够快速适应分类器在准确性和公平性两方面的漂移。我们用三种流行的公平性度量说明了我们的框架，并演示了如何在这些公平性约束下处理漂移。在多个数据集上的实验表明，我们的框架应用于线性专家混合模型时，在准确率上与神经网络表现相当，同时能产生更公平的模型。随后我们使用大规模 HMDA 数据集，并表明尽管在 HMDA 上训练的各种模型在准确性和公平性方面都表现出漂移，FEAMOE 能够妥善处理所有考虑的公平性度量方面的漂移，并维持模型准确率。我们还证明，所提出的框架允许产生快速的 Shapley 值解释，这使得基于计算高效的特征归因来解释模型决策通过 FEAMOE 变得容易实现。
引用
@article{arxiv.2210.04995,
title = {FEAMOE: Fair, Explainable and Adaptive Mixture of Experts},
author = {Shubham Sharma and Jette Henderson and Joydeep Ghosh},
journal= {arXiv preprint arXiv:2210.04995},
year = {2022}
}