不要生成，而是判别：一种将语言模型锚定到真实世界环境的方案

当前语言模型（LM）缺失的一项关键能力是锚定到真实世界环境。大多数现有的面向锚定语言理解的工作使用 LM 直接生成可在环境中执行以实现预期效果的计划，从而将保证语法性、忠实性与可控性的全部负担都压在 LM 上。我们提出 Pangu，一个通用的锚定语言理解框架，它利用 LM 的判别能力而非生成能力。Pangu 由一个符号智能体和一个神经 LM 协同工作组成：智能体探索环境以逐步构建有效计划，LM 评估候选计划的合理性以引导搜索过程。在知识库问答（KBQA）这一具有庞大环境特征的挑战性问题上的案例研究，展示了 Pangu 的显著有效性与灵活性：一个 BERT-base LM 就足以在标准 KBQA 数据集上创下新纪录，更大的 LM 进一步带来 substantial 增益。Pangu 还首次实现了使用 Codex 等大型 LM 针对 KBQA 的有效少样本上下文学习。