基于组合不确定性量化的鲁棒自回归图解析神经—符号推理
计算与语言
2023-01-30 v1
摘要
预训练 seq2seq 模型在拥有丰富标注数据时擅长图语义解析，但对分布外（OOD）和长尾样本泛化较差。相比之下，符号解析器在总体层面指标上表现欠佳，但在 OOD 和尾部泛化方面展现出独特优势。在本工作中，我们研究由模型置信度告知的、组合性感知的神经—符号推理方法，在子图层面（即节点与边）执行细粒度神经—符号推理，并精确锁定神经解析器中高不确定性的子图组件。由此，该方法结合了神经与符号方法在捕捉图预测不同方面的独特优势，从而在跨领域和尾部均获得均衡的泛化性能。我们在英语资源语法（ERG）解析问题上，于一套多样的标准域内及七个 OOD 语料库上对该方法进行实证探究。我们的方法相较神经与符号方法分别在聚合 Smatch 分数上实现 35.26% 和 35.60% 的错误率降低，并在关键尾部语言类别上较神经模型获得 14% 的绝对准确率提升，优于先前未考虑组合性或不确定性的最优方法。
引用
@article{arxiv.2301.11459,
title = {Neural-Symbolic Inference for Robust Autoregressive Graph Parsing via Compositional Uncertainty Quantification},
author = {Zi Lin and Jeremiah Liu and Jingbo Shang},
journal= {arXiv preprint arXiv:2301.11459},
year = {2023}
}
备注
EMNLP 2022