处理语义解析中的本体缺口
计算与语言
2024-07-01 v1 人工智能
摘要
大多数神经语义解析(NSP)模型都假设模型能够用其目标符号表示的概念中不存在外部概念(封闭世界假设)。这一假设会导致生成幻觉输出，而不是承认其知识不足。幻觉可能导致用户收到错误或潜在冒犯的响应。因此，防止这种行为的机制对于构建可信赖的基于NSP的问答智能体至关重要。为此，我们提出了幻觉模拟框架(HSF)，用于刺激和分析NSP模型的幻觉。该框架可以应用于任何基于封闭本体的NSP任务。使用所提出的框架和KQA Pro作为基准数据集，我们评估了针对幻觉检测的前沿技术。我们然后提出了一种新颖的幻觉检测策略，该策略利用NSP模型的计算图来检测本体缺口、超出域的言语以及识别NSP错误，分别将F1分数提高约21、24%和1%。这是首个在封闭本体NSP中解决识别本体缺口问题的工作。我们在https://github.com/amazon-science/handling-ontology-gaps-in-semantic-parsing发布了代码和模型权重。
引用
@article{arxiv.2406.19537,
title = {Handling Ontology Gaps in Semantic Parsing},
author = {Andrea Bacciu and Marco Damonte and Marco Basaldella and Emilio Monti},
journal= {arXiv preprint arXiv:2406.19537},
year = {2024}
}