评估 LLM 文本生成中属性强度平滑控制

控制文本生成的属性强度在诸多场景中至关重要（例如控制写作简洁性、聊天情感和解释清晰度）。大型语言模型 (LLM) 的卓越能力已彻底变革了文本生成，这促使我们探索 LLM 生成的平滑控制。具体而言，我们提出了衡量生成文本属性强度在响应不同控制值下的范围、校准和一致性的指标，以及其与预期上下文的相关性。为量化属性强度和上下文相关性，我们提出了一种有效的评估框架，利用 Elo 评级系统和 GPT4，这两种方法都因其与人类判断的强大一致性而著名。我们研究了实现 LLM 平滑控制的两种可行无训练方法：(1) 使用语义位移词进行提示，以及 (2) 修改内部模型表示。这些两种方法的评估是在 $5$ 个不同属性和不同模型上进行的。我们的代码和数据集可在 \url{https://github.com/ShangDataLab/Smooth-Control} 获取。