MABR：无需先验偏见知识的多层对抗性偏见移除
计算与语言
2025-05-13 v3
摘要
在真实数据上训练的模型常常镜像并加剧现存的社会偏见。传统方法通常需要针对特定偏见（如性别或种族偏见）及其关联社会群体的先验知识。本文提出一种新型对抗训练策略，独立于偏见类型知识和受保护属性标签。该方法主动识别训练中的偏见，利用辅助模型预测主模型性能（无需依赖任务标签）。此外，我们在主模型特征图的不同层级部署这些辅助模型，以检测更广泛且更细致的偏见特征。在情感和职业分类任务上的实验表明，我们的方法无需人口统计标注，即可有效减少社会偏见。更值得注意的是，我们的方法不仅匹配而且常常超越需要详细人口统计信息的方法，标志着偏见缓解技术的重大进展。
引用
@article{arxiv.2408.05497,
title = {MABR: Multilayer Adversarial Bias Removal Without Prior Bias Knowledge},
author = {Maxwell J. Yin and Boyu Wang and Charles Ling},
journal= {arXiv preprint arXiv:2408.05497},
year = {2025}
}