基于知识支撑的抽取式与自然语言解释自合理化方法
计算与语言
2022-09-19 v4 人工智能
机器学习
摘要
能够为其预测生成抽取式依据（即特征子集）或自然语言解释（NLEs）的模型对于可解释 AI 十分重要。抽取式依据可快速展示对预测最负责的特征，而 NLE 则能对预测背后的决策过程进行完整描述。然而，当前生成最佳抽取式依据或 NLE 的模型，其任务性能往往落后于最先进水平（SOTA）。本文中，我们弥合这一差距，提出 RExC——一个将其预测及两类互补解释（NLE 与抽取式依据）锚定于背景知识的自合理化框架。我们的框架相较先前方法有以下改进：(i) 在提供解释的同时达到 SOTA 任务性能；(ii) 提供两类解释，而现有模型通常仅提供一类；(iii) 在两类解释的质量上大幅超越先前 SOTA。此外，RExC 中的扰动分析显示解释与预测间高度关联，这是忠实解释必备的性质。
引用
@article{arxiv.2106.13876,
title = {Knowledge-Grounded Self-Rationalization via Extractive and Natural Language Explanations},
author = {Bodhisattwa Prasad Majumder and Oana-Maria Camburu and Thomas Lukasiewicz and Julian McAuley},
journal= {arXiv preprint arXiv:2106.13876},
year = {2022}
}
备注
Accepted in ICML 2022 as a spotlight