机器学习中的公平性与医疗中的公平性相遇

随着机器学习在医疗中的日益应用，其改善医疗结果的潜力也在增长。然而，这也带来了延续数据与模型设计中偏见的风险，这些偏见可能基于年龄、性别和种族等因素伤害特定人口群体。本研究提出了一种基于软件工程原则的人工智能框架，用于在医疗环境中识别并缓解数据与模型中的偏见，同时确保公平性。我们给出一个案例研究，展示数据中的系统性偏见如何导致模型预测中偏见的放大，并建议采用机器学习方法来防止此类偏见。未来研究旨在真实临床环境中测试和验证所提出的 ML 框架，以评估其在促进健康公平方面的影响。