Meta-Tool：面向小型语言模型的高效小样本工具适应
计算与语言
2026-04-23 v1 人工智能
机器学习
摘要
小型语言模型能否在不依赖复杂适应机制的情况下实现强大的工具使用性能？本文通过 Meta-Tool 这一受控实证研究来探讨此问题，该研究比较了基于超网络的 LoRA 适应与精心设计的少样本提示。我们使用 Llama-3.2-3B-Instruct 作为骨干模型，在四个不同的基准测试（Gorilla APIBench、Spider 2.0、WebArena 和 InterCode）上评估了四种适应机制——少样本提示、文档编码、超网络生成的 LoRA 权重以及值引导的束搜索。我们的核心发现是一个有充分支持的负面结果：尽管生成了非平凡的权重矩阵，但拥有 2.278 亿参数的超级网络相比单纯的少样本提示并未带来可测量的改进。全面的消融研究揭示，少样本示例贡献了 +21.5% 的性能，文档贡献了 +5.0%，而超网络的贡献为 0%。一个配备精心设计提示的 3B 模型，以低 10 倍的延迟达到了 GPT-5 平均性能的 79.7%。对涵盖所有样本数（0--5）的 722 个失败案例进行的错误分析表明，在 5 样本配置下（106 个失败案例），失败模式具有任务依赖性：模式密集型任务（Spider 2.0、WebArena）的格式错误几乎为零，其余失败均为语义错误，而格式错误在 Gorilla（100%）和 InterCode（70%）上占主导地位。这些发现将从业者引向提示工程和示例筛选，而非复杂的适应架构。
引用
@article{arxiv.2604.20148,
title = {Meta-Tool: Efficient Few-Shot Tool Adaptation for Small Language Models},
author = {Sachin Kumar},
journal= {arXiv preprint arXiv:2604.20148},
year = {2026}
}
备注
Accepted to Findings of ACL 2026