大语言模型在医学领域的多能力对齐
人工智能
2025-08-07 v1
摘要
BalancedBio 是一个在医学领域实现参数高效医学推理的理论框架，旨在解决领域特定AI对齐中的多能力集成问题。它提出了医学多能力收敛定理，证明正交梯度空间是防止能力干扰以实现安全部署的关键。关键创新包括：（1）医学知识基准的人工合成生成（Medical Knowledge Grounded Synthetic Generation, MKGSG），扩展Source2Synth框架，加入临床工作流程约束和医学本体验证，确保事实准确性和安全性；（2）能力感知组相对策略优化（Capability Aware Group Relative Policy Optimization），推导最优混合奖励加权方案，以维持RL中的正交性，采用适用于医学任务的基于规则和基于模型的评分的奖励模型。数学分析证明了帕累托最优收敛，保持各能力的性能。它在所属参数类别中实现了最佳结果：领域专长（80.95% BIOMED-MMLU，+15.32%），推理（61.94%，+7.75%），指令遵循（67.95%，+6.44%），集成（86.7%，+18.5%）。理论安全保证包括能力保持和临床准确性的界限。实际部署实现了78%的成本降低、23%的诊断准确率提升和89%的临床医生接受度。本工作为医学AI对齐提供了原则方法，实现了高效推理，同时确保了必需的安全性和可靠性，将于发布0.5B模型版本。
引用
@article{arxiv.2508.04278,
title = {Large Language Model's Multi-Capability Alignment in Biomedical Domain},
author = {Wentao Wu and Linqing Chen and Hanmeng Zhong and Weilei Wang},
journal= {arXiv preprint arXiv:2508.04278},
year = {2025}
}