无损害地弃权公平分类器
机器学习
2023-10-11 v1
摘要
在关键应用中，分类器将决策权交由人类行使至关重要。我们提出一种事后方法，使现有分类器选择性地弃权预测某些样本。我们的弃权分类器被激励为每个子群体保持原始准确率（即无损害），同时以用户指定程度实现一组群体公平定义。为此，我们设计了一个整数规划（IP）过程，为每个训练样本分配弃权决策以满足一组约束。为将弃权决策推广到测试样本，我们随后训练一个代理模型，基于IP解以端到端方式学习弃权决策。我们分析了IP过程的可行性，以确定在不同不公平容忍度和无损害准确率约束下可能的弃权率。据我们所知，本工作是首个识别约束参数与所需弃权率之间理论关系的研究。我们的理论结果十分重要，因为由于缺乏人力资源，高弃权率在实践中往往不可行。我们的框架在相似弃权率下，在不牺牲准确率的同时优于现有方法的公平差异。
引用
@article{arxiv.2310.06205,
title = {Fair Classifiers that Abstain without Harm},
author = {Tongxin Yin and Jean-François Ton and Ruocheng Guo and Yuanshun Yao and Mingyan Liu and Yang Liu},
journal= {arXiv preprint arXiv:2310.06205},
year = {2023}
}