分析与解释自然语言处理中的神经网络：首届 BlackboxNLP 研讨会报告
计算与语言
2019-04-09 v1 机器学习
摘要
EMNLP 2018 的 BlackboxNLP 研讨会致力于专门开发的资源与技术，用于分析和理解语言神经模型所学到的内部机制与表示。所采用的方法包括：系统性地操纵神经网络的输入并研究其对性能的影响，测试是否可从神经网络获得的中间表示中解码出可解释的知识，提出对神经网络架构的修改以使其知识状态或生成输出更具可解释性，以及考察网络在简化语言或形式语言上的表现。在此我们回顾每一类中的若干代表性研究。
引用
@article{arxiv.1904.04063,
title = {Analyzing and Interpreting Neural Networks for NLP: A Report on the First BlackboxNLP Workshop},
author = {Afra Alishahi and Grzegorz Chrupała and Tal Linzen},
journal= {arXiv preprint arXiv:1904.04063},
year = {2019}
}