解决视网膜疾病诊断中的人工智能偏倚
人工智能
2020-12-03 v4 计算机视觉与模式识别
图像与视频处理
摘要
本研究评估了生成式方法在诊断糖尿病视网膜病变（DR）时潜在缓解 AI 偏倚的能力，该偏倚源于训练数据不平衡，或源于深度学习系统（DLS）在测试/推理时遇到初始未训练概念所发生的域泛化。公共领域 Kaggle-EyePACS 数据集（88,692张眼底照与44,346名个体，原本族群多样）经添加临床医生标注标签，并构建数据不平衡与域泛化的虚构场景：禁止用于训练（但不禁止测试）需转诊 DR（DR-referable）的视网膜图像以及深肤色个体的图像，后者平均而言假定在葡萄膜黑素细胞内含更多黑色素，导致视网膜图像色素沉积。将一个传统/基线诊断 DLS 与使用经生成模型增广训练数据去偏的新 DLS 进行比较。基线诊断 DLS 对浅肤色个体眼底图像的准确率（95%置信区间[CI]）为73.0%（66.9%，79.2%），深肤色为60.5%（53.5%，67.3%），显示出受保护子群体间 AI 表现的偏倚/差异（delta=12.5%）（Welch t检验 t=2.670，P=.008）。使用应对缺失子群体训练数据（DR-referable 深肤色）的新颖生成方法，浅肤色准确率为72.0%（65.8%，78.2%），深肤色为71.5%（65.2%，77.8%），显示出跨子群体准确率的更接近均衡（delta=0.5%）（Welch t检验 t=0.111，P=.912）。结果说明了数据不平衡与域泛化如何导致跨子群体准确率差异，并表明合成眼底图像的新颖生成方法可发挥作用以对 AI 去偏。
引用
@article{arxiv.2004.13515,
title = {Addressing Artificial Intelligence Bias in Retinal Disease Diagnostics},
author = {Philippe Burlina and Neil Joshi and William Paul and Katia D. Pacheco and Neil M. Bressler},
journal= {arXiv preprint arXiv:2004.13515},
year = {2020}
}
备注
Accepted for publication at journal of Translational Vision Science and Technology