医疗 AI 系统的问责框架：迈向决策中的联合问责
人工智能
2025-09-04 v1
摘要
AI 正在变革医疗领域，并日益辅助从业者做出与健康相关的决策。因此，问责成为关键 AI 驱动决策的核心关切。尽管欧盟委员会等监管机构提供了指导方针，但这些方针较为宏观，侧重于“应该做什么”而非“如何做”，从而给参与者造成了知识差距。通过广泛分析，我们发现问责一词的感知与处理方式因参与者的专业领域和工作领域而异。随着对 AI 问责问题日益关注以及该术语的模糊性，本文弥合了 AI 问责在“应该做什么”与“如何做”之间的差距，特别是针对医疗保健中的 AI 系统。我们通过分析问责概念、制定问责框架以及提供处理各种问责机制的三层结构来实现这一点。我们的问责框架将医疗 AI 系统的监管与参与者采用的机制置于一致的问责制度之下。此外，三层结构指导医疗 AI 系统的参与者根据其行为对机制进行分类。通过我们的框架，我们主张医疗 AI 中的决策具有共享依赖性，问责应联合处理并应促进协作。我们强调了可解释性在促使参与者之间沟通与信息共享中的作用，以进一步促进协作过程。
引用
@article{arxiv.2509.03286,
title = {Accountability Framework for Healthcare AI Systems: Towards Joint Accountability in Decision Making},
author = {Prachi Bagave and Marcus Westberg and Marijn Janssen and Aaron Yi Ding},
journal= {arXiv preprint arXiv:2509.03286},
year = {2025}
}
备注
To be published in AAAI AIES 2025