即插即用对话模型

在生成连贯流畅响应的对话模型方面已取得显著进展；然而，这通常涉及在大型对话数据集（如 Reddit）上训练大语言模型（LLM）。这些大型对话模型对生成响应的控制能力较弱，且在缺乏可用于微调模型的属性特定生成标注对话数据集时，这种控制进一步受限。在本文中，我们首先提出并评估用于可控响应生成的即插即用方法，其不需要对话特定数据集，也不依赖微调大型模型。尽管有效，该解码过程引入了可观的计算开销，使对话模型不适用于交互式使用。为克服此问题，我们引入一种在解码时不需要额外计算、同时也无需微调大语言模型的方法。我们通过广泛的自动与人工评估证明，在保持流畅的同时，对生成对话响应在多个期望属性上实现了高度控制。