DUCK: 分解工具型胸部 X 光智能体中的不公平性

医学智能体中的公平性正变得至关重要，因为工具型临床 AI 系统会编排专门的视觉和语言模块以完成诸如胸部 X 光问答等任务。尽管这些医学 AI 智能体可以提高灵活性，但其额外的管道复杂度也为基于人口统计的偏见创建了新的途径。我们提出 DUCK，即 Decomposing Unfairness in Tool-Using Chest X-ray agents，系统审查工具型胸部 X 光智能体中的公平性。为定位差异出现的具体位置，我们引入了分阶段公平性分解，将端到端偏差分离为三个智能体特定来源：工具暴露偏差（即工具存在时的效用差距）、工具转换偏差（即子群在工具路由模式中的差异）以及模型推理偏差（即子群在合成行为中的差异）。广泛的实验在五个驱动 backbones 上的工具型智能体框架中揭示，人口统计学差距在端到端性能中持续存在，平等机会率最高可达 20.79%，公平性-效用权衡最差可达 28.65%。中间行为（包括工具使用、转换模式和推理痕迹）显示出distinct 子群差异，这些差异不能仅凭端到端评估预测。例如，在工具可用性条件下，子群效用差距可达高达 50%。我们的发现凸显了在确保临床智能体系统公平部署方面，过程级公平性审计和去偏的必要性。代码: https://github.com/Nanboy-Ronan/DUCK。