RDR：用于增强语言理解的回顾、深思与响应方法
计算与语言
2024-03-06 v2 人工智能
摘要
使用神经网络流水线的自然语言理解（NLU）通常需要不仅仅存在于输入数据中的额外上下文。先前的研究表明，NLU基准易受神经模型的操纵，这些模型利用编码外部知识中的统计伪影来人为夸大下游任务的性能指标。我们提出的方法被称为回顾、深思与响应（RDR）范式，通过在神经网络流水线中纳入三个不同的目标来解决这一问题。首先，回顾目标涉及使用复述模型对输入文本进行复述，以总结和概括其本质。其次，深思目标需要利用图嵌入模型，对与输入文本中提及实体相关的外部图信息进行编码。最后，响应目标采用一个分类头模型，利用来自回顾和深思模块的表示来生成最终预测。通过级联这三个模型并最小化组合损失，我们减轻了操纵基准的可能性，并建立了一种捕获底层语义模式的稳健方法，从而实现准确预测。为了评估RDR方法的有效性，我们在多个GLUE基准任务上进行了测试。结果表明，与有竞争力的基线相比，性能有所提升，在标准指标上提高了高达2%。此外，我们分析了RDR模型展现出的语义理解证据，强调了它们避免操纵基准并准确捕获真实底层语义模式的能力。
引用
@article{arxiv.2312.09932,
title = {RDR: the Recap, Deliberate, and Respond Method for Enhanced Language Understanding},
author = {Yuxin Zi and Hariram Veeramani and Kaushik Roy and Amit Sheth},
journal= {arXiv preprint arXiv:2312.09932},
year = {2024}
}