迈向跨群体分类均等
机器学习
2020-05-19 v1 机器学习
摘要
近来，确保机器学习中的算法公平性受到广泛关注，其核心问题是如何防止敏感信息（例如个体的族群信息）给学习算法带来“不公平”的偏差（Feldman 等 (2015)，Zemel 等 (2013)）。这催生了若干针对词嵌入（Qian 等 (2019)，Bolukbasi 等 (2016)）、共指消解（Zhao 等 (2018a)）、语义角色标注（Zhao 等 (2017)）等的去偏算法。现有工作大多处理性别、职业或种族等显式敏感特征，这在因隐私顾虑而未采集此类特征的数据上并不适用。在本研究中，我们旨在实现显式与隐式敏感特征下的分类均等。我们将显式群体定义为基于数据中提供的显式敏感属性（年龄、性别、种族）的人群分组，而隐式群体定义为具有相似语言使用习惯的人群分组。我们通过使用语言模型对由个体生成的语言所训练的每个人嵌入进行聚类来获得隐式群体。我们在本工作中达成两个主要目标：[1.] 我们实验并发现了基于隐式与显式特征的跨群体分类性能差异；[2] 我们通过改进损失函数以最小化跨群体模型性能的范围，从而改善了分类均等。
引用
@article{arxiv.2005.08033,
title = {Towards classification parity across cohorts},
author = {Aarsh Patel and Rahul Gupta and Mukund Harakere and Satyapriya Krishna and Aman Alok and Peng Liu},
journal= {arXiv preprint arXiv:2005.08033},
year = {2020}
}
备注
Published in ML-IRL ICLR 2020 workshop