diagNNose：一个用于神经激活分析的库
计算与语言
2020-11-16 v1 机器学习
摘要
本文介绍 diagNNose，一个用于分析深度神经网络激活的开源库。diagNNose 包含多种可解释性技术，能为神经网络的内部机制提供基础性见解。我们以语言模型中主谓一致为例进行案例研究，展示 diagNNose 的功能。diagNNose 可在 https://github.com/i-machine-think/diagnnose 获取。
引用
@article{arxiv.2011.06819,
title = {diagNNose: A Library for Neural Activation Analysis},
author = {Jaap Jumelet},
journal= {arXiv preprint arXiv:2011.06819},
year = {2020}
}
备注
Accepted to the Third BlackboxNLP Workshop on Analyzing and Interpreting Neural Networks for NLP, EMNLP 2020