在域偏移下保持 AI 的公平性
机器学习
2023-01-31 v1
摘要
现有保障 AI 公平性的算法采用一次性训练策略，即在带有敏感属性的标注训练数据集上训练 AI 模型，然后投入使用。该训练策略在平稳分布问题中有效，其中训练与测试数据均来自同一分布。然而，它对于初始训练阶段之后输入空间中可能出现的分布偏移十分脆弱。因此，数据的时间依赖性会在模型预测中引入偏差。使用新的标注数据集从头重新训练模型是一种昂贵且耗时的朴素解决方案。我们开发了一种算法，仅利用新的无标注数据点将公平模型适配以在域偏移下保持公平。我们将该学习设定重新表述为无监督域适应问题。我们的算法基于更新模型，使得尽管输入空间中存在分布偏移，数据的内部表示仍保持无偏。我们在三个广泛使用的公平性数据集上提供了大量实证验证，以证明算法的有效性。
引用
@article{arxiv.2301.12369,
title = {Preserving Fairness in AI under Domain Shift},
author = {Serban Stan and Mohammad Rostami},
journal= {arXiv preprint arXiv:2301.12369},
year = {2023}
}