面向大语言模型的可适应逻辑控制
计算与语言
2024-08-20 v2
摘要
尽管大语言模型在遵循人类指令的各种任务中取得了成功，但在推理时控制模型生成仍是一个持续的挑战。本文引入Ctrl-G框架，实现可达且可灵活的控制大语言模型生成，以可靠遵循逻辑约束。Ctrl-G将任何生产就绪的大语言模型与隐藏马尔可夫模型结合起来，使大语言模型输出遵循作为确定性有限自动机表示的逻辑约束。我们表明，Ctrl-G应用于TULU2-7B模型时，在交互式文本编辑任务中超越GPT3.5和GPT4： Specifically，对于生成遵循逻辑约束的文本插入/续写任务，Ctrl-G在人类评估中实现超过30%的满意度提升。当应用于中等规模语言模型（如GPT2-large）时，Ctrl-G在标准基准上也以大幅优势胜过其对手。此外，作为概念验证研究，我们在小学数学基准上实验Ctrl-G以辅助大语言模型推理，为Ctrl-G以及其他受约束生成方法在传统语言生成任务之外的应用指明了方向。
引用
@article{arxiv.2406.13892,
title = {Adaptable Logical Control for Large Language Models},
author = {Honghua Zhang and Po-Nien Kung and Masahiro Yoshida and Guy Van den Broeck and Nanyun Peng},
journal= {arXiv preprint arXiv:2406.13892},
year = {2024}
}