面向自动文本摘要的显著图生成
机器学习
2019-07-15 v1 计算与语言
摘要
显著图生成技术在广泛机器学习应用的可解释人工智能文献中处于前沿地位。我们的目标是在更复杂的任务上探究这些方法的局限性。在本文中，我们将逐层相关性传播（Layer-Wise Relevance Propagation, LRP）应用于在文本摘要数据集上训练的序列到序列注意力模型。我们得到了出乎意料的显著图，并讨论了这些“解释”的合理性。我们认为需要一种定量检验反事实情形以判断显著图真实性的方法。我们提出了一个检验赋予输入的重要性的有效性的协议，并表明所获得的显著图有时捕捉到网络对输入特征的实际使用，有时则没有。我们以该例子探讨在接受它们作为解释时我们需要多么谨慎。
引用
@article{arxiv.1907.05664,
title = {Saliency Maps Generation for Automatic Text Summarization},
author = {David Tuckey and Krysia Broda and Alessandra Russo},
journal= {arXiv preprint arXiv:1907.05664},
year = {2019}
}