利用捷径测试检测公平医疗 AI 中的捷径学习
机器学习
2023-08-09 v2
摘要
机器学习（ML）在改善医疗健康方面前景广阔，但必须确保其使用不会传播或放大健康不平等。一个重要的步骤是刻画 ML 模型的（不）公平性——即其在不同人群子组中表现存在差异的倾向——并理解其潜在机制。算法不公平的一个潜在驱动因素是捷径学习，它出现在 ML 模型基于训练数据中不恰当的关联进行预测时。然而，诊断这一现象十分困难，尤其是在敏感属性与疾病存在因果关联的情况下。利用多任务学习，我们提出了第一种将捷径学习评估与缓解作为临床 ML 系统公平性评估一部分的方法，并展示了其在放射学和皮肤病学临床任务中的应用。最后，我们的方法揭示了某些情况下不公平并非由捷径所致，凸显了在医疗 AI 中采取整体性公平缓解策略的必要性。
引用
@article{arxiv.2207.10384,
title = {Detecting Shortcut Learning for Fair Medical AI using Shortcut Testing},
author = {Alexander Brown and Nenad Tomasev and Jan Freyberg and Yuan Liu and Alan Karthikesalingam and Jessica Schrouff},
journal= {arXiv preprint arXiv:2207.10384},
year = {2023}
}