面向医疗可信机器学习的公平感知可解释建模 (FAIM)
机器学习
2024-03-11 v1 人工智能
计算机与社会
摘要
机器学习在医疗等高风险领域的日益整合引发了对模型公平性的重大担忧。我们提出了一个可解释框架——公平感知可解释建模（FAIM），旨在不牺牲性能的前提下提高模型公平性，其特色是拥有一个交互式界面，可从一组高性能模型中识别出“更公平”的模型，并促进数据驱动证据与临床专业知识的整合，以增强情境化公平性。我们利用两个真实世界数据库 MIMIC-IV-ED 和 SGH-ED 预测医院入院情况，展示了 FAIM 在减少性别和种族偏见方面的价值。结果表明，对于这两个数据集，FAIM 模型不仅表现出令人满意的判别性能，而且通过成熟的公平性指标衡量，显著减轻了偏见，优于常用的偏见缓解方法。我们的方法证明了在不牺牲性能的情况下提高公平性的可行性，并提供了一种邀请领域专家参与的建模模式，促进了针对特定 AI 公平性的多学科努力。
引用
@article{arxiv.2403.05235,
title = {Fairness-Aware Interpretable Modeling (FAIM) for Trustworthy Machine Learning in Healthcare},
author = {Mingxuan Liu and Yilin Ning and Yuhe Ke and Yuqing Shang and Bibhas Chakraborty and Marcus Eng Hock Ong and Roger Vaughan and Nan Liu},
journal= {arXiv preprint arXiv:2403.05235},
year = {2024}
}