基于基础模型的工具学习
计算与语言
2024-08-07 v3 人工智能
机器学习
摘要
人类拥有创造和利用工具的非凡能力，使他们能够克服身体局限并探索新领域。随着基础模型的出现，人工智能系统有潜力在工具使用上与人类同样熟练。这一范式，即基于基础模型的工具学习，结合了专用工具与基础模型的优势，以在问题求解中实现更高的准确性、效率和自动化。尽管潜力巨大，该领域仍缺乏对关键挑战、机遇和未来努力方向的全面理解。为此，我们本文对工具学习进行了系统研究。我们首先介绍工具学习的背景，包括其认知起源、基础模型的范式转变，以及工具与模型的互补作用。然后我们将现有工具学习研究归纳为工具增强型与工具导向型学习。我们构建了一个通用工具学习框架：从理解用户指令出发，模型应学会将复杂任务分解为若干子任务，通过推理动态调整计划，并通过选择合适的工具有效攻克每个子任务。我们还讨论了如何训练模型以提升工具使用能力，并促进工具学习中的泛化。考虑到以往工作缺乏系统的工具学习评估，我们使用18种代表性工具进行实验，展示了当前基础模型熟练利用工具的潜力。最后，我们讨论了若干需要进一步研究的开放问题。总体而言，我们希望本文能启发未来将工具与基础模型融合的研究。
引用
@article{arxiv.2304.08354,
title = {Tool Learning with Foundation Models},
author = {Yujia Qin and Shengding Hu and Yankai Lin and Weize Chen and Ning Ding and Ganqu Cui and Zheni Zeng and Yufei Huang and Chaojun Xiao and Chi Han and Yi Ren Fung and Yusheng Su and Huadong Wang and Cheng Qian and Runchu Tian and Kunlun Zhu and Shihao Liang and Xingyu Shen and Bokai Xu and Zhen Zhang and Yining Ye and Bowen Li and Ziwei Tang and Jing Yi and Yuzhang Zhu and Zhenning Dai and Lan Yan and Xin Cong and Yaxi Lu and Weilin Zhao and Yuxiang Huang and Junxi Yan and Xu Han and Xian Sun and Dahai Li and Jason Phang and Cheng Yang and Tongshuang Wu and Heng Ji and Zhiyuan Liu and Maosong Sun},
journal= {arXiv preprint arXiv:2304.08354},
year = {2024}
}