基于域自适应的AI公平性
计算机视觉与模式识别
2021-04-05 v1 机器学习
摘要
尽管深度学习（DL）方法在许多任务上已达到人类水平性能，包括诊断 AI，目前的关注点正转向可能影响 DL 部署的挑战，包括 AI 隐私、域泛化与公平性。本研究针对最后一项挑战。我们在此探讨一种关于受保护或敏感因素确保 AI 公平性的新颖方法。该方法利用通过训练集增强实现的域自适应来解决导致偏倚的训练数据不平衡问题。更具体地，其使用生成模型，从而能为代表性不足的人群生成更多合成训练样本。本文将此方法应用于年龄相关性黄斑变性（AMD）检测的用例。我们的实验表明，从一个原本有偏的 AMD 诊断模型出发，该方法能够改善公平性。
引用
@article{arxiv.2104.01109,
title = {AI Fairness via Domain Adaptation},
author = {Neil Joshi and Phil Burlina},
journal= {arXiv preprint arXiv:2104.01109},
year = {2021}
}