医学 AI 代理负责任与伦理实施的六项干预措施
计算机与社会
2026-03-17 v1
摘要
大型语言模型（LLM）驱动的 AI 代理日益具备复杂的临床推理能力，可能不久即将在有限或无需实时人类监督的情况下参与医疗决策。这一转变引发了关于如何在临床责任延伸至自主系统时，如何坚持医学伦理核心原则（即惠益、无害、自主和正义）的根本性问题。本文提出一种以设计为伦理的框架，用于医学 AI 代理，包含六项实际的干预措施：可审计的伦理推理模块、明确的人类覆盖条件、结构化的患者偏好概览、AI 专用的伦理监督工具、用于伦理情景的全局基准测试存储库，以及用于实际评估的监管沙盒。这些机制共同旨在为新兴的临床 AI 代理实现伦理治理。
引用
@article{arxiv.2603.13743,
title = {Six Interventions for the Responsible and Ethical Implementation of Medical AI Agents},
author = {Tom Bisson and Henriette Voelker and Sanddhya Jayabalan and A John Iafrate and Jakob N Kather and Jochen K Lennerz},
journal= {arXiv preprint arXiv:2603.13743},
year = {2026}
}
备注
7 pages, 1 figure