在形式化规范中处理开放词汇构件：基于检索增强的解析与专家知识

我们研究了在将自然语言（NL）规范转化为形式语言（如时序逻辑或代码）的语境中，处理开放词汇构件（Open-Vocabulary Constructs, OVCs）——即事先未知的构件——的问题。由于缺乏事先必要的知识，模型在处理OVCs时表现不佳。在此类情况下，领域专家可以根据其偏好或领域知识在推理时提供正确的构件。我们的目标是有效地在不重新训练模型的情况下复用这种推理时的、专家提供的知识。我们提出了动态知识增强解析（Dynamic Knowledge-augmented Parsing, DKAP），该方法除输入句子外还接收（动态增长的）专家知识作为键值词典，用于将NL短语与正确的OVC构件关联。我们提出了ROLex，这是一种检索增强的解析方法，利用该词典。经过训练的检索器和生成器用于查找和使用键值存储以生成正确的解析。关键挑战在于为检索增强解析准备数据。我们利用合成数据生成和在已标注（NL句子、形式语言语句）对上进行数据增强技术来训练增强解析器。为了提高训练效果，我们提出了多种策略，教导模型聚焦于检索到的相关知识子集。最后，我们引入一种新的评估范式，模拟DKAP问题，并在三个形式化任务（NL2LTL、NL2Code和NL2CMD）上进行测试。我们的评估显示，DKAP是一个困难的挑战，ROLex通过有效利用动态专家知识提升了基线模型的性能。