了解医生法律考量对可解释AI系统的影响

医生——且感到——在伦理、职业和法律上对患者结果负有责任，这使他们得以缓冲患者免受医学AI系统有害判断的影响。许多人呼吁引入可解释AI（XAI）系统，以帮助医生以减少潜在风险的方式将医学AI建议纳入其工作流程。在此背景下，尽管已有研究表明医生的法律关切如何影响其医学决策，但鲜有研究探讨XAI系统应如何设计以适应这些关切。在本研究中，我们对10位医生进行访谈，以了解他们在何处以及如何预见医学AI系统可能发生错误，并探讨这些预见错误如何与其法律关切相联系。在我们的研究中，医生预见了使用AI系统进行患者护理的风险，但对其在新型技术环境下如何调整法律风险缓解策略仍感到未知。基于这些发现，我们描述了针对医生法律关切的XAI系统设计的影响。具体而言，我们确定需要在AI建议旁提供背景信息，以引导其风险缓解策略，包括如何将医疗文档和审计请求等与法律关系不直接的系统方面纳入法律案件。