无需人口统计信息的皮肤病诊断公平性实现
计算机视觉与模式识别
2024-05-06 v1 人工智能
摘要
在医学图像诊断中，公平性变得日益关键。若不进行偏差缓解，部署不公平的人工智能将损害弱势群体的利益，并可能撕裂社会。最近的研究通过在训练期间利用人口统计（敏感属性）信息，解决了深度学习模型中关于人口统计群体（如性别、年龄和种族）的预测偏差问题。然而，许多敏感属性天然存在于皮肤病图像中。如果训练后的模型仅针对特定属性实现公平，那么对于其他属性它仍然不公平。此外，由于隐私顾虑，训练一个能够容纳多个敏感属性的模型是不切实际的。为克服这一问题，我们提出了一种方法，能够在测试阶段实现针对敏感属性的公平预测，而无需在训练期间使用此类信息。受先前强调特征纠缠对公平性影响的工作启发，我们通过捕获与敏感属性和目标属性相关的特征，并对相应类别间的特征纠缠进行正则化，从而增强模型特征。这确保了模型只能基于与目标属性相关的特征进行分类，而不依赖与敏感属性相关的特征，从而提高了公平性和准确性。此外，我们利用 Segment Anything Model (SAM) 生成的疾病掩膜来提升学习特征的质量。实验结果表明，与最先进的方法相比，所提出的方法在两个皮肤病数据集中均能改善分类的公平性。
引用
@article{arxiv.2401.08066,
title = {Achieve Fairness without Demographics for Dermatological Disease Diagnosis},
author = {Ching-Hao Chiu and Yu-Jen Chen and Yawen Wu and Yiyu Shi and Tsung-Yi Ho},
journal= {arXiv preprint arXiv:2401.08066},
year = {2024}
}