医疗 AI 透明度：测试欧洲监管规定对用户透明度需求的满足情况
计算机与社会
2025-06-17 v2 人工智能
摘要
人工智能（AI）在医疗领域发挥着至关重要作用，并被广泛应用于医疗软件和设备中。在欧洲联盟，医疗是 AI 的高风险应用领域，服务提供者必须根据欧洲法规 2024/1689（AI 法案）准备说明书（Instructions for Use, IFU）。该法规要求说明书必须清晰且针对用户。本研究测试这些要求是否被满足，即测试说明书结构。通过 Qualtrics 平台线上发布调查问卷，针对四类直接利益相关者进行调查，即管理者（N = 238），医疗专业人员（N = 115），患者（N = 229），以及信息技术专家（N = 230）。受访者评估了一组透明度需求的相关性，并指出解决这些需求的说明书章节。结果显示，利益相关者之间的优先级存在差异，且透明度需求与说明书结构之间的对应关系存在问题。我们提出了构建当地有意义说明书的建议。
引用
@article{arxiv.2505.17105,
title = {Transparency in Healthcare AI: Testing European Regulatory Provisions against Users' Transparency Needs},
author = {Anna Spagnolli and Cecilia Tolomini and Elisa Beretta and Claudio Sarra},
journal= {arXiv preprint arXiv:2505.17105},
year = {2025}
}
备注
22 pages, pre-review version