勿微调，解码：通过约束解码实现无语法错误的工具调用
计算与语言
2024-06-05 v3 人工智能
摘要
指令微调大语言模型（LLM）在许多任务上表现出色，但由于复杂且陌生的语法约束，常无法使用外部工具。尽管大量微调与提示可缓解该问题，这些方法代价高昂且难以泛化。此外，由于语法约束仅在微调中被隐式学习，模型仍频繁出现语法错误。受这些约束可通过约束解码显式更好满足这一事实启发，我们提出 TOOLDEC，一种利用有限状态机迫使 LLM 遵循工具语法的解码算法。我们的实验表明，TOOLDEC 消除了所有语法错误，在各种基模型与基准上取得显著更优性能。更令人惊讶的是，当应用于 Mistral-Instruct 等通用开箱即用 LLM 时，TOOLDEC 将其工具使用准确率从初始的 0% 提升至令人印象深刻的 52%，匹敌 ToolLLM 等专用微调模型的性能。
引用
@article{arxiv.2310.07075,
title = {Don't Fine-Tune, Decode: Syntax Error-Free Tool Use via Constrained Decoding},
author = {Kexun Zhang and Hongqiao Chen and Lei Li and William Wang},
journal= {arXiv preprint arXiv:2310.07075},
year = {2024}
}