通过患者模拟 advancing AI可信度：对话式抗抑郁药选择的风险评估
计算与语言
2026-03-30 v3
摘要
目标：本文介绍一种用于可扩展、自动化评估 healthcare 对话式智能体的患者模拟器，生成真实、可控的交互，系统性地变异于医学、语言和行为维度，以支持跨人群的风险评估。方法：基于NIST AI风险管理框架，模拟器整合了三个配置文件：（1）由All of Us电子健康记录构建的医学配置文件，使用风险比率门控；（2）建模健康素养和特定症状沟通的语言配置文件；（3）代表合作、分心和对抗性参与方式的行为配置文件。对配置文件进行了NIST AI RMF可信度要求的评估，并针对抗抑郁药选择的AI决策辅助系统进行评估。结果：在500次模拟对话中，模拟器揭示了AI决策辅助系统在不同健康素养水平下的性能单调退化：Rank-1概念检索率从有限（47.6%）到熟练（81.9%）不等，伴随相应的推荐退化。医学概念忠诚度高（8,210个概念中达96.6%），由人类标注员（0.73 Cohen's kappa）和LLM评判器（0.78 Cohen's kappa）验证。行为配置文件可靠区分（0.93 Cohen's kappa），语言配置文件显示中等一致性（0.61 Cohen's kappa）。结论：模拟器暴露了对话式 healthcare AI中可测量的性能风险。健康素养作为主要风险因素，对公平AI部署具有直接含义。
引用
@article{arxiv.2602.11391,
title = {Advancing AI Trustworthiness Through Patient Simulation: Risk Assessment of Conversational Agents for Antidepressant Selection},
author = {Md Tanvir Rouf Shawon and Mohammad Sabik Irbaz and Hadeel R. A. Elyazori and Keerti Reddy Resapu and Yili Lin and Vladimir Franzuela Cardenas and Farrokh Alemi and Kevin Lybarger},
journal= {arXiv preprint arXiv:2602.11391},
year = {2026}
}