用于对话中直觉推理的结构因果模型学习
计算与语言
2024-01-17 v2
摘要
推理作为NLP研究的关键方面，尚未被包括大语言模型(Large Language Model, LLM)在内的主流模型充分解决。对话推理作为其重要组成部分，由于缺少设计良好的认知模型，仍基本未被探索。本文受对话认知直觉理论启发，构建了对话认知模型(CCM)，阐释每条话语如何递归地接收并激活信息通道。此外，我们在若干温和假设下将CCM代数地转化为结构因果模型(SCM)，使其兼容多种因果发现方法。我们进一步提出该SCM的概率化实现，用于话语级关系推理。通过变分推断，它探索隐因的替代变量，解决隐因不可观测问题，并借助证据下界重构话语的因果表示。此外，我们构建了包含隐因与完整因果标签的合成与仿真数据集，缓解了现有数据集均忽视隐因的局面。大量实验表明，我们所提方法在合成、仿真及真实世界数据集上显著优于现有方法。最后，我们分析了CCM在潜混杂因素下的表现，并针对这一尚未解决的问题提出理论思路。
引用
@article{arxiv.2305.17727,
title = {Learning a Structural Causal Model for Intuition Reasoning in Conversation},
author = {Hang Chen and Bingyu Liao and Jing Luo and Wenjing Zhu and Xinyu Yang},
journal= {arXiv preprint arXiv:2305.17727},
year = {2024}
}