基于信息瓶颈的解释再生
计算与语言
2023-07-12 v2
摘要
自然且准确地解释自然语言处理模型的黑箱预测是自然语言生成领域一个重要的开放性问题。这些自由文本解释应包含充分且精心选择的证据，以构成对预测的支持性论证。由于大型预训练语言模型卓越的生成能力，近期基于提示工程的工作使得无需特定训练即可生成解释。然而，通过单次提示生成的解释往往缺乏充分性和简洁性。为解决此问题，我们开发了一种信息瓶颈方法EIB，以生成既充分又简洁的精炼解释。我们的方法通过润色预训练语言模型的单次输出，同时保留支持被解释内容的信息，来再生自由文本解释。在两个域外任务上的实验通过自动评估和全面的人工评估验证了EIB的有效性。
引用
@article{arxiv.2212.09603,
title = {Explanation Regeneration via Information Bottleneck},
author = {Qintong Li and Zhiyong Wu and Lingpeng Kong and Wei Bi},
journal= {arXiv preprint arXiv:2212.09603},
year = {2023}
}
备注
Accepted in ACL2023 Findings