深度NLP模型中的细粒度解释与因果分析
计算与语言
2021-06-01 v2
摘要
本文为我们于NAACL 2021所呈现的“深度NLP模型中的细粒度解释与因果分析”教程的书面稿。我们从两个视角提出并讨论关于解释模型细粒度组分的研究工作：i) 细粒度解释，ii) 因果分析。前者引入针对某一语言属性或任务分析单个神经元及一组神经元的方法。后者研究神经元与输入特征在解释模型所作决策中的作用。我们还讨论了神经元分析的应用，如网络操控与领域自适应。此外，我们介绍了两个工具包NeuroX与Captum，其支持本教程中所讨论的功能。
引用
@article{arxiv.2105.08039,
title = {Fine-grained Interpretation and Causation Analysis in Deep NLP Models},
author = {Hassan Sajjad and Narine Kokhlikyan and Fahim Dalvi and Nadir Durrani},
journal= {arXiv preprint arXiv:2105.08039},
year = {2021}
}
备注
Accepted at NAACL Tutorial