RLET:一种基于强化学习的蕴含树可解释问答方法
计算与语言
2022-11-01 v1
摘要
解释从问题到答案的推理过程是可解释问答的一大挑战。近来提出的结构化推理格式——蕴含树,以树结构中的蕴含步骤提供了显式逻辑推导。为生成蕴含树,先前的单遍序列到序列模型缺乏可见的内部决策概率,而逐步方法以抽取的单步数据监督且无法将树作为整体建模。本文中,我们提出 RLET,一种基于强化学习(RL)的蕴含树生成框架,其利用整棵树的累积信号进行训练。RLET 通过句子选择与推导生成模块迭代执行单步推理,并以精心设计的、与评测一致的对齐奖励函数在树间累积训练信号。据我们所知,我们首次将 RL 引入蕴含树生成任务。在 EntailmentBank 数据集三种设定上的实验展示了使用 RL 框架的优势。
引用
@article{arxiv.2210.17095,
title = {RLET: A Reinforcement Learning Based Approach for Explainable QA with Entailment Trees},
author = {Tengxiao Liu and Qipeng Guo and Xiangkun Hu and Yue Zhang and Xipeng Qiu and Zheng Zhang},
journal= {arXiv preprint arXiv:2210.17095},
year = {2022}
}
备注
EMNLP 2022