通过 LLM 后编辑改进跨领域低资源文本生成：程序员-解释器方法
计算与语言
2024-02-08 v1
摘要
后编辑已被证明能有效提高大型语言模型 (LLM)（如 GPT-3.5 或 GPT-4）生成的文本质量，特别是当直接更新其参数以提升文本质量不可行或成本高昂时。然而，仅依赖较小的语言模型进行后编辑可能会限制 LLM 跨领域的泛化能力。此外，这些方法中的编辑策略并未针对文本生成任务进行最优设计。为了解决这些局限性，我们提出了一种神经程序员-解释器方法，该方法在编辑 LLM 输出时保留了其领域泛化能力。该框架中的编辑动作是专门为文本生成设计的。大量实验表明，程序员-解释器显著提升了 GPT-3.5 在逻辑形式到文本转换和低资源机器翻译中的性能，在跨领域设置下超越了其他最先进的 (SOTA) LLM 后编辑方法。
引用
@article{arxiv.2402.04609,
title = {Improving Cross-Domain Low-Resource Text Generation through LLM Post-Editing: A Programmer-Interpreter Approach},
author = {Zhuang Li and Levon Haroutunian and Raj Tumuluri and Philip Cohen and Gholamreza Haffari},
journal= {arXiv preprint arXiv:2402.04609},
year = {2024}
}
备注
EACL 2024 (findings), short paper, 5 pages