利用领域知识引导神经概率软逻辑对话结构归纳
计算与语言
2024-03-27 v1 机器学习
摘要
对话结构归纳(DSI)是指从给定的以目标为导向的对话中推断其潜在对话结构(即一组对话状态及其时间转换)的任务。它是现代对话系统设计和话语分析中的关键组件。现有的DSI方法往往是纯数据驱动的,部署的模型在没有领域知识访问的情况下推断潜在状态,在训练语料有限或噪声时表现不佳,或在测试对话 exhibit 训练领域分布性偏移时难以处理。本文探索了一种神经符号方法作为解决这些问题的潜在方案。我们引入神经概率软逻辑对话结构归纳(NEUPSL DSI),这是一种将符号知识注入生成式神经模型潜在空间的原则方法。我们对NEUPSL DSI学习对隐藏表示质量、few-shot学习和跨域泛化性能的影响进行了彻底的实证 investigation。对于三个对话结构归纳数据集以及无监督和半监督setting下标准和跨域泛化情况,利用NEUPSL DSI注入的符号知识在标准基线上提供了持续的性能提升。
关键词
引用
@article{arxiv.2403.17853,
title = {Using Domain Knowledge to Guide Dialog Structure Induction via Neural Probabilistic Soft Logic},
author = {Connor Pryor and Quan Yuan and Jeremiah Liu and Mehran Kazemi and Deepak Ramachandran and Tania Bedrax-Weiss and Lise Getoor},
journal= {arXiv preprint arXiv:2403.17853},
year = {2024}
}