面向可解释自然语言处理的合理化技术：综述
计算与语言
2023-11-14 v1 机器学习
摘要
深度学习的近期进展提升了诸多自然语言处理（NLP）任务（如翻译、问答和文本分类）的性能。然而，这一提升以牺牲模型可解释性为代价。黑盒模型使得理解系统内部机制及其得出输出的过程变得困难。数值型（LIME、Shapley）与可视化（显著图热力图）可解释性技术虽有帮助，但因其需要专业知识而尚不充分。这些因素促使合理化（rationalization）成为 NLP 中一种更易理解的可解释技术。合理化通过提供自然语言解释（理由，rationale）来论证模型的输出。自然语言生成的近期改进使得合理化成为一种颇具吸引力的技术，因为它直观、人类可理解且非技术用户也能使用。由于合理化是一个相对新兴的领域，目前尚缺乏体系。作为首篇综述，本文分析了 2007–2022 年 NLP 中合理化的文献。本综述呈现了使用合理化的各类 NLP 任务中所用的方法、可解释性评估、代码与数据集。此外，本文引入了可解释人工智能（XAI）的一个新子领域，即理性人工智能（Rational AI, RAI），以推进合理化当前的研究状态。文中还讨论了所观察到的见解、挑战与未来方向，以指明有前景的研究机会。
引用
@article{arxiv.2301.08912,
title = {Rationalization for Explainable NLP: A Survey},
author = {Sai Gurrapu and Ajay Kulkarni and Lifu Huang and Ismini Lourentzou and Laura Freeman and Feras A. Batarseh},
journal= {arXiv preprint arXiv:2301.08912},
year = {2023}
}