通过级联交互推理提升神经语言推理能力
计算与语言
2025-05-13 v1
摘要
自然语言推理(NLI)旨在确定给定前提与假设之间的逻辑关系(蕴含、矛盾或中性)。该任务由于内在的语言特征(如多样化的表述、语义复杂性和上下文细微差别)而具有显著挑战。虽然基于 Transformer 架构的预训练语言模型(PLMs)在 NLI 中取得了显著进展,但现有方法主要使用终端层的表示。这一依赖于最终层输出的做法可能忽略中间层编码的有价值信息,限制了有效建模复杂语义互动的能力。为填补这一差距,我们引入了级联交互推理网络(CIRN),一种为 NLI 设计的新型架构,以实现更深入的语义理解。CIRN 在多个网络深度上实现分层特征提取, operates within an interactive space where cross-sentence information is continuously integrated。该机制旨在模拟逐步推理的过程,从表层特征匹配过渡到发现前台的逻辑和语义联系。通过在各种表示层级系统性地挖掘潜在语义关系,CIRN 实现了对输入对的更全面理解。在几个标准 NLI 基准数据集上进行的全面评估显示,CIRN 在性能上持续优于竞争性基线方法,表明了利用多级交互特征处理复杂关系推理的有效性。
引用
@article{arxiv.2505.06607,
title = {Boosting Neural Language Inference via Cascaded Interactive Reasoning},
author = {Min Li and Chun Yuan},
journal= {arXiv preprint arXiv:2505.06607},
year = {2025}
}