多LoRA推理下的模型融合用于工具增强型游戏对话智能体
计算与语言
2025-09-30 v1
摘要
本文介绍了opdainlp团队为CPDC 2025挑战中GPU轨道提供的解决方案。该挑战包含三个任务，旨在构建符合角色人格、契合游戏世界观、并支持功能调用的游戏式对话AI。考虑到推理期间的效果与资源/时间约束，我们基于竞赛组织者提供的数据集为某些任务合成了数据。我们采用Qwen3-14B进行LoRA微调和模型融合，并利用集成多个LoRA适配器的基础模型进行推理。具体而言，在本次竞赛中，我们使用三个独立的LoRA适配器分别处理工具调用、带工具调用结果的响应生成以及不带工具调用结果的响应生成。通过vLLM实现了多LoRA推理。我们的解决方案在GPU轨道的任务1和任务3中获得第一名，在任务2中获得第二名。
引用
@article{arxiv.2509.24229,
title = {Model Fusion with Multi-LoRA Inference for Tool-Enhanced Game Dialogue Agents},
author = {Kangxu Wang and Ze Chen and Chengcheng Wei and Jiewen Zheng and Jiarong He and Max Gao},
journal= {arXiv preprint arXiv:2509.24229},
year = {2025}
}
备注
8 pages