用于学习公平表征的差分调整奇偶性
机器学习
2025-04-10 v2 人工智能
摘要
公平且无偏的机器学习模型的开发仍是人工智能领域研究者的持续目标。我们引入差分调整奇偶性（Differential Adjusted Parity, DAP）损失函数，以生成无偏且信息丰富的表征。它利用调整奇偶性指标的可微分变体，以创建统一的目标函数。通过结合下游任务分类准确率及其在敏感特征域之间的不一致性，DAP提供了单一工具以提升性能并缓解偏见。其关键在于采用软平衡准确率。与先前的非对抗方法不同，DAP不会因在所有敏感域上都表现平差而导致指标满足。我们在分析中发现，DAP在下游任务准确率和公平性方面超越了多个对抗模型。具体而言，与最佳对抗方法相比，DAP在人口统计公平性、平等机会和敏感特征准确率上分别提升了最高可达22.5%、44.1%和40.1%。总体而言，DAP损失及其关联指标在创建更公平的机器学习模型方面发挥重要作用。
引用
@article{arxiv.2502.09765,
title = {Differential Adjusted Parity for Learning Fair Representations},
author = {Bucher Sahyouni and Matthew Vowels and Liqun Chen and Simon Hadfield},
journal= {arXiv preprint arXiv:2502.09765},
year = {2025}
}