基于对抗学习估计与改善公平性
计算机视觉与模式识别
2021-05-12 v2 人工智能
计算机与社会
摘要
公平性与可问责性是医疗领域可信人工智能（AI）的两大基本支柱。然而，现有 AI 模型在其决策制定中可能存在偏差。为解决此问题，我们提出一种对抗式多任务训练策略，在基于深度学习的医学图像分析系统中同时缓解并检测偏差。具体而言，我们提出在基础分类模型中加入一个对抗偏差的判别模块和一个预测不公平性的关键模块。我们进一步施加正交正则化，迫使两个模块在训练期间相互独立。由此，我们可使这些深度学习任务彼此区分，并避免其在流形上坍缩为奇异点。通过这一对抗训练方法，因性别、肤色等属性而易受偏差影响的弱势群体数据，被迁移至相对于这些属性中性的域。此外，关键模块可对敏感属性未知的数据预测公平性分数。我们在大规模公开皮肤病变数据集上依据多种公平性评估指标评估了我们的框架。实验证明了我们所提方法在基于深度学习的医学图像分析系统中估计与改善公平性的有效性。
引用
@article{arxiv.2103.04243,
title = {Estimating and Improving Fairness with Adversarial Learning},
author = {Xiaoxiao Li and Ziteng Cui and Yifan Wu and Lin Gu and Tatsuya Harada},
journal= {arXiv preprint arXiv:2103.04243},
year = {2021}
}
备注
12 pages, 2 figures, 3 tables