机器学习与公共卫生：通过系统综述识别和缓解算法偏差
人工智能
2025-10-17 v1
摘要
机器学习有望通过改进监测、风险分层和资源分配来革新公共卫生。然而，如果没有对算法偏差的系统性关注，机器学习可能会无意中加剧现有的健康不平等。我们对2021年至2025年荷兰公共卫生机器学习研究中算法偏差的识别、讨论和报告进行了系统性文献综述。为此，我们通过整合来自既定框架（Cochrane偏倚风险、PROBAST、微软负责任AI清单）的元素，开发了算法偏差风险评估工具(RABAT)，并将其应用于35项同行评审研究。我们的分析揭示了普遍存在的差距：尽管数据采样和缺失数据处理实践记录良好，但大多数研究省略了明确的公平性框架、亚组分析以及对潜在危害的透明讨论。作为回应，我们引入了一个名为ACAR（意识、概念化、应用、报告）的四阶段面向公平性的框架，并附有源自我们系统文献综述的指导性问题，以帮助研究人员在整个机器学习生命周期中解决公平性问题。最后，我们为公共卫生机器学习从业者提出了可操作的建议，以持续考虑算法偏差并促进透明度，确保算法创新能够促进而非损害健康公平。
引用
@article{arxiv.2510.14669,
title = {Machine Learning and Public Health: Identifying and Mitigating Algorithmic Bias through a Systematic Review},
author = {Sara Altamirano and Arjan Vreeken and Sennay Ghebreab},
journal= {arXiv preprint arXiv:2510.14669},
year = {2025}
}
备注
Extended version of the paper accepted at the AAAI/ACM Conference on AI, Ethics, and Society (AIES 2025), including an appendix. 10 pages, 2 figures