医生多数投票提高病理学中AI依赖的适当性
人机交互
2024-06-18 v3
摘要
随着人工智能（AI）在医疗决策中取得进展，日益需要确保医生对AI建立适当的依赖，以避免不良后果。然而，现有实现适当AI依赖的方法在应用于医疗领域时可能遇到挑战。对此，本研究采用并验证了一种替代方法——多数投票——以促进医疗决策中对AI的适当依赖。这是通过一项涉及32名具有不同背景的医疗专业人员多机构用户研究实现的，重点是在肿瘤图像中视觉检测一种模式——有丝分裂——的病理学任务。在此，多数投票过程是通过综合一组病理学医生（病理学家）在AI辅助下做出的决策来进行的。使用两个指标来评估AI依赖的适当性：相对AI依赖（RAIR）和相对自我依赖（RSR）。结果表明，即使只有三名病理学家组成的小组，与一名病理学家与AI协作做出的决策相比，多数投票决策也显著提高了RAIR和RSR——分别约提高了9%和31%。这种适当性的提高带来了有丝分裂检测中更好的精确率和召回率。尽管我们的研究以病理学为中心，我们相信这些见解可以扩展到涉及类似视觉任务的一般高风险决策过程。
引用
@article{arxiv.2404.04485,
title = {Majority Voting of Doctors Improves Appropriateness of AI Reliance in Pathology},
author = {Hongyan Gu and Chunxu Yang and Shino Magaki and Neda Zarrin-Khameh and Nelli S. Lakis and Inma Cobos and Negar Khanlou and Xinhai R. Zhang and Jasmeet Assi and Joshua T. Byers and Ameer Hamza and Karam Han and Anders Meyer and Hilda Mirbaha and Carrie A. Mohila and Todd M. Stevens and Sara L. Stone and Wenzhong Yan and Mohammad Haeri and Xiang 'Anthony' Chen},
journal= {arXiv preprint arXiv:2404.04485},
year = {2024}
}
备注
46 pages, 11 figures. Accepted International Journal of Human-Computer Studies