机器学习模型在精神健康中的偏差发现
机器学习
2022-05-25 v1 人工智能
计算机与社会
摘要
公平性与偏差是人工智能中的关键概念，但在临床精神病学中的机器学习应用中却相对被忽视。我们使用在精神健康临床数据上训练的模型计算了公平性指标并提出了偏差缓解策略。我们收集了乌得勒支大学医学中心精神科患者入院、诊断与治疗相关的结构化数据。我们训练了一个机器学习模型，基于既往数据预测未来苯二氮䓬类药物的给药。我们发现性别在预测中扮演了意料之外的角色——这构成了偏差。利用 AI Fairness 360 工具包，我们实施了重新加权与歧视感知正则化作为偏差缓解策略，并探讨了它们对模型性能的影响。这是偏差探索与缓解在基于真实临床精神病学数据训练的机器学习模型中的首次应用。
引用
@article{arxiv.2205.12093,
title = {Bias Discovery in Machine Learning Models for Mental Health},
author = {Pablo Mosteiro and Jesse Kuiper and Judith Masthoff and Floortje Scheepers and Marco Spruit},
journal= {arXiv preprint arXiv:2205.12093},
year = {2022}
}