从文本显著性到语言对象：利用多通道卷积架构学习可解释的语言标记
机器学习
2020-04-08 v1 机器学习
摘要
目前大量工作致力于提供方法来分析和理解深度神经网络在图像或文本分类等任务中的优异表现。这些方法主要基于可视化网络在构建决策时所考虑的重要输入特征。然而，这些技术（如 LIME、SHAP、Grad-CAM 或 TDS）需要额外的努力才能结合专家知识对可视化结果进行解释。在本文中，我们提出一种新方法来检查已拟合 CNN 的隐藏层，以利用分类过程从文本中提取可解释的语言对象。特别地，我们详细给出了文本反卷积显著性（Text Deconvolution Saliency, TDS）的加权扩展（wTDS）度量，该度量可用于突出 CNN 在执行分类任务时所使用的相关特征。我们在英语和法语两种不同语言的语料库上实证展示了我们方法的有效性。在所有数据集上，wTDS 基于共现并可能基于语法和句法分析自动编码复杂的语言对象。
引用
@article{arxiv.2004.03254,
title = {From text saliency to linguistic objects: learning linguistic interpretable markers with a multi-channels convolutional architecture},
author = {Laurent Vanni and Marco Corneli and Damon Mayaffre and Frédéric Precioso},
journal= {arXiv preprint arXiv:2004.03254},
year = {2020}
}
备注
7 pages, 22 figures