心理工具失效：实现医学代理的协同效应
人工智能
2026-05-27 v1
摘要
医学AI代理越来越多地使用外部工具进行诊断、治疗建议和证据检索，但大多数现有方法假设任务合适的工具在其预期范围内可靠。这一假设在实际临床环境中脆弱，即使是相关工具在具有挑战性的实例上也可能失效并导致不安全的下游决策。为此，我们研究在不完美工具设置下进行医学工具使用，以纠正个体工具漏忽的失效实例。实例依赖的失效模式在最佳固定单一工具和理想实例级选择器之间创造了Single-Oracle风险间隙。核心挑战是，传统任务级工具选择无法实现这一间隙，因为它本质上受限于最佳单一工具的性能。受此启发，我们因此考虑实例层面的异质性，将工具使用表述为实例级选择问题。特别地，我们提出了一个基于GRPO的强化学习框架，采用概率风险最小化和不一致感知协同学习奖励，促进实例级纠正错误的工具共识。此外，采纳熵引导的抽样策略来上升高不一致实例，这些实例为学习特定实例的工具协同提供更强信号。这两个组件相互补充，减轻实例层面的异质性并提高工具协同。实验在两个任务和七个医学基准上表明，我们的方法始终对广泛的基准实现稳健且稳定的改进，凸显了协同感知工具使用对可靠医学代理系统的重要性。
引用
@article{arxiv.2605.26691,
title = {Mind the Tool Failures: Achieving Synergistic Tool Gains for Medical Agents},
author = {Yunhui Gan and Tan Pan and Kaiyu Guo and Limei Han and Weimiao Yu and Guangnan Ye and Chen Jiang and Yuan Cheng},
journal= {arXiv preprint arXiv:2605.26691},
year = {2026}
}