什么会影响工具学习的稳定性?对工具学习框架鲁棒性的实证研究
计算与语言
2024-07-04 v1 人工智能
摘要
工具学习方法已增强了大型语言模型(LLM)与现实应用交互的能力。许多现有工作通过微调LLM或设计提示来使其能够选择合适的工具并正确调用,以满足用户需求。然而,注意到在先前的工作中,工具学习的性能会因任务、数据集、训练设置和算法而有所不同。由于不了解这些因素的影响,可能会导致结果不一致、模型部署效率低下以及工具利用次优,最终阻碍LLM在现实场景中的实际集成和可扩展性。因此,本文探索了内部和外部因素对工具学习框架性能的影响。通过在两个基准数据集上进行大量实验,我们发现了若干具有洞察力的结论,包括观察到LLM从增加试验和探索中可获得显著帮助。我们相信我们的实证研究为未来工具学习研究提供了新的视角。
引用
@article{arxiv.2407.03007,
title = {What Affects the Stability of Tool Learning? An Empirical Study on the Robustness of Tool Learning Frameworks},
author = {Chengrui Huang and Zhengliang Shi and Yuntao Wen and Xiuying Chen and Peng Han and Shen Gao and Shuo Shang},
journal= {arXiv preprint arXiv:2407.03007},
year = {2024}
}
备注
19 pages, 9 figures