医疗保健AI的数据表:透明度与偏差缓解框架
计算机与社会
2025-01-13 v1 数字图书馆
摘要
在医疗保健中使用AI有望改善患者护理、优化临床工作流程并增强决策能力。然而,训练数据集中的偏差、数据不完整性和不准确性可能导致不公平的结果并加剧现有的差异。本研究调查了数据集文档实践的当前状况,重点关注其应对这些挑战并支持合乎伦理的AI开发的能力。我们指出了现有文档方法的不足之处,这些方法限制了对数据集中偏差、不完整性及其他问题的识别和缓解。我们提出了“医疗保健AI数据表”以解决这些差距,这是一个促进透明度并确保符合监管要求的数据集文档框架。此外,我们演示了如何将其以机器可读格式表达,从而促进其与数据集的集成并实现自动化风险评估。研究结果强调了数据集文档在促进负责任的AI开发方面的重要性。
引用
@article{arxiv.2501.05617,
title = {Datasheets for Healthcare AI: A Framework for Transparency and Bias Mitigation},
author = {Marjia Siddik and Harshvardhan J. Pandit},
journal= {arXiv preprint arXiv:2501.05617},
year = {2025}
}
备注
Irish Conference on Artificial Intelligence and Cognitive Science (AICS), December 2024, Ireland