面向NLP的可解释文本神经元表示
计算与语言
2018-09-20 v1
摘要
输入优化方法，如Google Deep Dream，为计算机视觉DNN创建了可解释的神经元表示。我们提出并评估了将这一技术迁移至NLP的方法。我们的结果表明，带有gumbel softmax层的梯度上升所产生的n-gram表示，在目标神经元激活方面优于朴素的语料库搜索。这些表示凸显了Imaginet架构的语言模型与视觉模型之间在句法感知上的差异。
引用
@article{arxiv.1809.07291,
title = {Interpretable Textual Neuron Representations for NLP},
author = {Nina Poerner and Benjamin Roth and Hinrich Schütze},
journal= {arXiv preprint arXiv:1809.07291},
year = {2018}
}
备注
BlackboxNLP Workshop at EMNLP 2018 (Extended Abstract)