生成模型公平性：皮肤病理图像中的种族偏见研究

医学中的种族偏见，如皮肤科，正在引发重大伦理和临床挑战。这很可能是由于在机器学习模型的训练数据集中对暗肤色人群的代表性不足所致。虽然针对皮肤科领域的偏见缓解努力主要聚焦于提高数据集多样性和减轻判别性模型中的差异，但针对生成模型的种族偏见影响尚未得到充分探讨。生成模型，如变分自编码器 (VAEs)，正在医疗保健领域广泛应用，但其在不同肤色人群中的公平性目前不甚明了。本研究评估了在临床皮肤科中针对种族偏见的生成模型公平性。为此，我们首先训练一个带感知损失的VAE，以在不同肤色人群中生成和重构高质量皮肤图像。我们利用Fitzpatrick17k数据集考察种族偏见如何影响这些模型的代表性和性能。我们的发现表明，VAEs的性能如预期，随着肤色代表性的增加，其在该肤色上的性能也随之提升。然而，我们还观察到，尽管代表性因素分离，VAEs仍对lighter肤色人群的表现更好。此外，VAEs产生的不确定性估计在评估模型公平性方面并不有效。这些结果凸显了需要更多样化的皮肤科数据集的需求，同时也需要更好地理解此类模型中偏见的来源，以及改进不确定性量化机制，以在可信赖的医疗技术中检测和解决种族偏见。