AgentBank：通过在5万余条交互轨迹上微调实现通用LLM代理
计算与语言
2024-10-11 v1 人工智能
摘要
在大型语言模型(LLM)上进行代理-环境交互轨迹数据微调, 对于暴露通用代理能力具有重要潜力. 本文介绍了AgentBank, 它是目前规模最大的轨迹调优数据集合, 包含超过5万个多样化的高质量交互轨迹, 涵盖16项任务, 覆盖五个不同的代理技能维度. 通过采用新颖的标注管道, 我们能够规模化标注轨迹, 并生成降低难度偏差的轨迹数据集. 此外, 我们在AgentBank上对LLMs进行微调, 以获得一系列代理模型, 名为Samoyed. 我们的比较实验表明, 扩大交互轨迹数据规模以获取通用代理能力是有效的. 此外, 我们的额外研究也揭示了关于轨迹调优和代理技能泛化的一些关键观察.
引用
@article{arxiv.2410.07706,
title = {AgentBank: Towards Generalized LLM Agents via Fine-Tuning on 50000+ Interaction Trajectories},
author = {Yifan Song and Weimin Xiong and Xiutian Zhao and Dawei Zhu and Wenhao Wu and Ke Wang and Cheng Li and Wei Peng and Sujian Li},
journal= {arXiv preprint arXiv:2410.07706},
year = {2024}
}
备注
Findings of EMNLP 2024