NxPlain：用于发现潜在概念的基于 Web 的工具
计算与语言
2023-03-07 v1
摘要
深度神经网络在各领域的泛滥使得对这些模型可解释性的需求增加，尤其在公平性与可信度同模型性能同等重要的场景中。大量独立工作正在进行：i) 分析这些模型内部学习了哪些语言与非语言知识；ii) 突出输入中显著的部分。我们提出 NxPlain，一个基于 Web 的应用，利用潜在概念对模型预测提供解释。NxPlain 发现深度 NLP 模型中学习的潜在概念，提供模型中所学知识的解释，并基于所用概念解释其预测。该应用允许用户以直观的顺序浏览潜在概念，使他们能够以全局语料库级视图和局部句子级视图高效地扫描最显著的概念。我们的工具可用于调试、揭示模型偏差以及突出模型中的伪相关。托管演示可在此处获取：https://nxplain.qcri.org。
引用
@article{arxiv.2303.03019,
title = {NxPlain: Web-based Tool for Discovery of Latent Concepts},
author = {Fahim Dalvi and Nadir Durrani and Hassan Sajjad and Tamim Jaban and Musab Husaini and Ummar Abbas},
journal= {arXiv preprint arXiv:2303.03019},
year = {2023}
}
备注
EACL 2023