面向 AI 公平性的归纳学习方法的优势与风险
机器学习
2024-06-19 v1 计算机与社会
摘要
最近，利用训练期间的保留集的归纳学习方法因其潜在的提高机器学习模型速度、准确率和公平性而受到欢迎。尽管如此，保留集本身的组成，特别是敏感子群的平衡情况，仍被大体忽略。我们在 CIFAR 和 CelebA 数据集上的实验表明，保留集的组成变化会显著影响公平性指标。不平衡的保留集会加剧现存差异，而平衡的保留集则可缓解由不平衡训练数据引入的问题。这些发现凸显了构建既多样又具代表性的保留集的必要性。
引用
@article{arxiv.2406.12011,
title = {The Benefits and Risks of Transductive Approaches for AI Fairness},
author = {Muhammed Razzak and Andreas Kirsch and Yarin Gal},
journal= {arXiv preprint arXiv:2406.12011},
year = {2024}
}