通过解释使 ML 模型更公平：以 LimeOut 为例

算法决策如今每日都在使用，并基于可能复杂且有偏的机器学习（ML）过程。鉴于有偏决策可能对个人或整个社会产生的关键影响，这引发了若干担忧。不公平结果不仅影响人权，也削弱公众对 ML 与 AI 的信任。本文中，我们基于决策结果处理 ML 模型的公平性问题，并展示“特征丢弃”后接“集成方法”这一简单思想如何能改善模型公平性。为说明，我们将重访为应对“过程公平”（衡量模型对敏感或歧视性特征的依赖）而提出的“LimeOut”案例。给定一个分类器、一个数据集和一组敏感特征，LimeOut 首先通过使用“Lime 解释”检查其对敏感特征的依赖来评估该分类器是否公平。若判定不公平，LimeOut 随后应用特征丢弃以获得一组分类器池。这些随后被组合为一个集成分类器，经验表明其在不损害分类器准确性的情况下较少依赖敏感特征。我们在多个数据集与若干最先进分类器上进行了不同实验，表明 LimeOut 的分类器不仅改善（或至少保持）过程公平，也改善其他公平度量如个体与群体公平、机会均等和人口统计 parity。