一种审视注意力的新视角：基于双层注意力的可解释新闻分类主题建模
计算与语言
2023-10-09 v2
摘要
许多近期基于深度学习的方案已在NLP领域的各种任务中广泛采用基于注意力的机制。然而，深度学习模型的内在特性与注意力机制的灵活性增加了模型的复杂度，从而导致了模型可解释性方面的挑战。在本文中，为应对这一挑战，我们提出了一种新颖的实用框架，利用双层注意力架构来解耦解释的复杂度和决策过程。我们将其应用于新闻文章分类任务的场景中。在两个大规模新闻语料库上的实验表明，所提出的模型能与许多最先进(SOTA)的替代方案取得有竞争力的性能，并从可解释性角度说明了其适用性。
引用
@article{arxiv.2203.07216,
title = {A Novel Perspective to Look At Attention: Bi-level Attention-based Explainable Topic Modeling for News Classification},
author = {Dairui Liu and Derek Greene and Ruihai Dong},
journal= {arXiv preprint arXiv:2203.07216},
year = {2023}
}
备注
Findings of ACL2022