AgentOhana:设计统一数据与训练流程以实现高效智能体学习
人工智能
2024-11-12 v4 计算与语言
机器学习
摘要
由大语言模型(LLM)驱动的自主智能体已获得大量研究关注。然而,由于不同数据源具有异质性且包含多轮轨迹,充分挖掘LLM在基于智能体的任务中的潜力面临固有挑战。本文介绍\textbf{AgentOhana}作为应对这些挑战的综合解决方案。\textit{AgentOhana}汇聚了来自不同环境、涵盖广泛场景的智能体轨迹。它将这些轨迹精心标准化并统一为一致格式,从而简化了针对智能体训练优化的通用数据加载器的创建。借助数据统一,我们的训练流程在不同数据源之间保持平衡,并在数据集划分和模型训练过程中保持设备间的独立随机性。此外,我们提出了\textbf{xLAM-v0.1},一个专为AI智能体定制的大型动作模型,该模型在多个基准测试中展现出卓越性能。探索始于\url{https://github.com/SalesforceAIResearch/xLAM}。
引用
@article{arxiv.2402.15506,
title = {AgentOhana: Design Unified Data and Training Pipeline for Effective Agent Learning},
author = {Jianguo Zhang and Tian Lan and Rithesh Murthy and Zhiwei Liu and Weiran Yao and Ming Zhu and Juntao Tan and Thai Hoang and Zuxin Liu and Liangwei Yang and Yihao Feng and Shirley Kokane and Tulika Awalgaonkar and Juan Carlos Niebles and Silvio Savarese and Shelby Heinecke and Huan Wang and Caiming Xiong},
journal= {arXiv preprint arXiv:2402.15506},
year = {2024}
}
备注
Add GitHub repo link at \url{https://github.com/SalesforceAIResearch/xLAM} and HuggingFace model link at \url{https://huggingface.co/Salesforce/xLAM-v0.1-r}