使用 f-散度限制通用依赖的公平性感知学习

公平性感知学习是分类任务的新框架。像常规经验风险最小化 (ERM) 一样，它旨在学习低错误率的分类器，同时分类器的预测独立于敏感特征，如性别、宗教、种族和民族。现有方法能在给定样本上实现低依赖，但这不能保证在未见样本上成立。现有公平性感知学习算法采用不同的依赖度量，且每个算法专为特定度量设计。这种多样性使得理论和比较分析困难。本文提出使用 f-散度并涵盖现有方法采用的大多数依赖度量的公平性感知学习通用框架。我们引入估计 f-散度的方法，允许我们对估计误差上界给出统一分析；该界比现有散度估计收敛速度分析更紧。利用我们的散度估计，提出公平性感知学习算法，并理论分析其泛化误差。分析揭示，在温和假设下甚至强制公平，我们方法的泛化误差为 $O(\sqrt{1/n})$，与常规 ERM 相同。此外且更重要地，我们证明对任意 f-散度，散度估计误差上界为 $O(\sqrt{1/n})$。这表明我们的公平性感知学习算法保证对任意由 f-散度表示的依赖度量在未见样本上低依赖。