边写边思考：假设验证促进忠实的知识到文本生成

知识到文本生成器常常难以忠实于输入事实生成描述：它们可能产生与输入矛盾的幻觉，或描述输入中不存在的事实。为减少幻觉，我们提出一种仅解码方法TWEAK（Think While Effectively Articulating Knowledge，边有效表述知识边思考），其可在无需重训练的情况下与任意生成器集成。TWEAK将每个解码步生成的序列及其未来序列视为假设，并使用假设验证模型（HVM）依据这些假设受输入事实支持的程度对每个生成候选进行排序。我们首先通过使用自然语言推理（NLI）模型作为HVM来证明TWEAK的有效性，并报告了忠实度的提升且对质量影响极小。随后我们用一个特定任务的HVM替代NLI模型，该HVM使用首创的数据集FATE（Fact-Aligned Textual Entailment，事实对齐文本蕴含）训练，该数据集将输入事实与其原始及扰动描述配对。我们使用两个生成器测试TWEAK，最佳TWEAK变体在分布内/分布外评估中分别使两个模型的平均忠实度（FactKB）提升2.24/7.17分，而质量（BERTScore）仅下降0.14/0.32分。