BehaviorSFT：面向主动性谱系临床智能体的行为 Token 条件化
计算与语言
2025-05-29 v1
摘要
作为临床智能体的大语言模型（LLM）需要谨慎的行为适配。尽管 LLM 擅长反应式任务（如诊断推理），但往往难以进行主动式参与，例如主动识别关键缺失信息或风险。我们引入了 BehaviorBench，这是一个用于在临床辅助谱系上评估智能体行为的综合数据集，涵盖从反应式查询响应到主动干预（如澄清歧义、标记被忽略的关键数据）。我们在 BehaviorBench 上的实验揭示了 LLM 主动性不一致的问题。为解决此问题，我们提出 BehaviorSFT，这是一种新颖的训练策略，使用行为 token 显式地对 LLM 进行条件化，以实现该谱系上的动态行为选择。BehaviorSFT 提升了性能，在 BehaviorBench 上实现了高达 97.3% 的总体 Macro F1，并提高了主动任务得分（例如，Qwen2.5-7B-Ins 从 95.0% 提升至 96.5%）。至关重要的是，盲测临床医生评估证实，经过 BehaviorSFT 训练的智能体表现出更真实的临床行为，与标准微调或显式指令智能体相比，在有益的主动性（如及时、相关的建议）与必要的克制（如避免过度干预）之间取得了更优的平衡。
引用
@article{arxiv.2505.21757,
title = {BehaviorSFT: Behavioral Token Conditioning for Clinical Agents Across the Proactivity Spectrum},
author = {Yubin Kim and Zhiyuan Hu and Hyewon Jeong and Eugene Park and Shuyue Stella Li and Chanwoo Park and Shiyun Xiong and MingYu Lu and Hyeonhoon Lee and Xin Liu and Daniel McDuff and Cynthia Breazeal and Samir Tulebaev and Hae Won Park},
journal= {arXiv preprint arXiv:2505.21757},
year = {2025}
}