公平性警告与Fair-MAML：以极少数据公平地学习
机器学习
2019-12-06 v2 机器学习
摘要
出于对共享与迁移公平机器学习工具所带来公平性影响的担忧，我们提出两种算法：公平性警告（Fairness Warnings）与Fair-MAML。前者是一种与模型无关的算法，为在给定领域内相似但略有差异的任务上经过公平训练的模型可能不再表现公平的情况提供可解释的边界条件。后者是一种公平元学习方法，用于训练可仅从少量样本实例快速微调至特定任务、同时在公平性与准确率之间取得平衡的模型。我们通过相关基线实验展示了各模型的独立效用，并提供了据我们所知首个K-shot公平性的实验，即仅用K个数据点在新任务上训练公平模型。随后，我们说明了将两种算法作为组合方法的有用性：在新任务上以极少数据点训练模型，同时利用公平性警告作为可解释边界条件，界定新训练模型可能不公平的情形。
引用
@article{arxiv.1908.09092,
title = {Fairness Warnings and Fair-MAML: Learning Fairly with Minimal Data},
author = {Dylan Slack and Sorelle Friedler and Emile Givental},
journal= {arXiv preprint arXiv:1908.09092},
year = {2019}
}