学习变分词掩码以提升神经文本分类器的可解释性
计算与语言
2020-11-20 v3 机器学习
摘要
为构建可解释的神经文本分类器，以往工作多聚焦于设计内在可解释的模型或寻找忠实的解释。一条提升模型可解释性的新研究路线刚刚起步，且许多现有方法在训练中需要先验信息或人工标注作为额外输入。为克服该局限，我们提出变分词掩码（VMASK）方法，自动学习任务特定的重要词并削减分类中的无关信息，从而最终提升模型预测的可解释性。所提方法在七个基准文本分类数据集上，结合三种神经文本分类器（CNN、LSTM 和 BERT）进行了评估。实验显示了 VMASK 在提升模型预测准确率与可解释性方面的有效性。
引用
@article{arxiv.2010.00667,
title = {Learning Variational Word Masks to Improve the Interpretability of Neural Text Classifiers},
author = {Hanjie Chen and Yangfeng Ji},
journal= {arXiv preprint arXiv:2010.00667},
year = {2020}
}
备注
EMNLP 2020