Bias by Design? 数据实践如何塑造AI医疗系统中的公平性

人工智能(AI)在变革医疗保健方面拥有巨大潜力。然而，尽管取得了显著进展，AI解决方案的实际临床实践集成仍有限。主要障碍是训练数据的质量和公平性，往往因偏差的数据收集实践而受损。本文基于AI4HealthyAging项目的洞见，该项目是西班牙国家R&D计划的一部分，其中我们的任务是检测临床数据收集过程中的偏差。我们在多个用例中识别了包括历史偏差、表示偏差和测量偏差在内的多种偏差类型。这些偏差在变量如性别、年龄、居住地、社会经济地位、设备和标注等方面显现。我们以实际建议结束，用于改进临床问题设计和数据收集的公平性和鲁棒性。我们希望我们的发现和经验有助于指导未来项目，发展更公平的医疗AI系统。