基于英国生物库的视网膜图像分类模型中的偏见研究

近期研究揭示了机器学习模型在医疗保健领域存在惊人的数据不平等。本研究探讨了这些不平等是否也存在于英国生物库（UK Biobank）眼底视网膜图像中，通过在这些图像上训练和评估疾病分类模型。我们评估了不同人口群体之间的可能差异，发现尽管模型整体表现良好，但存在显著差异。特别是，我们发现某些评估中心的模型表现不公平，这与其严格的数据标准化协议相矛盾。我们比较了这些差异的形成方式，并对每一种差异应用了 various 现有的偏见缓解方法。一个关键洞察是，每一种差异都具有独特的特性，并且对缓解方法的反应不同。我们还发现，这些方法基本无法提升公平性，这凸显了针对特定类型偏见开发更佳偏见缓解方法的必要性。