主动学习能否 preemptively 缓解公平性问题?

Frédéric Branchaud-Charron; Parmida Atighehchian; Pau Rodríguez; Grace Abuhamad; Alexandre Lacoste

主动学习能否 preemptively 缓解公平性问题?

机器学习 2021-04-15 v1 计算机与社会

作者: Frédéric Branchaud-Charron , Parmida Atighehchian , Pau Rodríguez , Grace Abuhamad , Alexandre Lacoste

摘要

数据集偏差是机器学习中不公平性的主要成因之一。因此在数据收集与数据集准备阶段解决公平性,成为训练更公平算法的重要一环。特别地,主动学习(AL)算法通过关注最具信息量的训练样本,在该任务上展现出潜力。然而,现有AL算法与算法公平性之间的影响及交互仍鲜有探究。本文研究:基于不确定性的AL启发式方法(如BALD)所训练模型,相较于独立同分布(i.i.d.)采样训练的模型,其在受保护类别上的决策是否更公平。我们发现使用BALD时在预测均等性上有显著提升,同时准确率也优于i.i.d.采样。我们还探究了梯度反转(GRAD)等算法公平性方法与BALD的交互。我们发现,尽管二者解决不同的公平性问题,其交互在我们所考察的大多数基准与指标上进一步改善了结果。

关键词

主动学习算法公平性数据集偏差 BALD 预测均等性梯度反转

引用

@article{arxiv.2104.06879,
  title  = {Can Active Learning Preemptively Mitigate Fairness Issues?},
  author = {Frédéric Branchaud-Charron and Parmida Atighehchian and Pau Rodríguez and Grace Abuhamad and Alexandre Lacoste},
  journal= {arXiv preprint arXiv:2104.06879},
  year   = {2021}
}

备注

Presented at ICLR 2021 Workshop on Responsable AI

主动学习能否 preemptively 缓解公平性问题?

摘要

关键词

引用

备注

相关论文