自然语言处理中可解释 AI 研究现状综述
计算与语言
2025-04-16 v1 人工智能
机器学习
摘要
近年来，最先进模型的质量取得了重要进展，但这是以模型可解释性降低为代价的。本综述概述了当前可解释 AI（XAI）在自然语言处理（NLP）领域内的研究现状。我们讨论了解释的主要分类，以及获得和可视化解释的各种方式。我们详述了当前可用于生成 NLP 模型预测解释的操作与可解释性技术，以作为社区中模型开发者的资源。最后，我们指出了当前的差距，并鼓励这一重要研究领域的未来工作方向。
引用
@article{arxiv.2010.00711,
title = {A Survey of the State of Explainable AI for Natural Language Processing},
author = {Marina Danilevsky and Kun Qian and Ranit Aharonov and Yannis Katsis and Ban Kawas and Prithviraj Sen},
journal= {arXiv preprint arXiv:2010.00711},
year = {2025}
}
备注
To appear in AACL-IJCNLP 2020