GASCOM：基于图的注意力语义上下文建模用于在线对话理解
计算与语言
2023-10-24 v1
摘要
在线对话理解是一个重要且具挑战性的 NLP 问题，具有诸多有用应用（如仇恨言论检测）。然而，在线对话通常在一组帖子及对其的回复中展开，形成树状结构，其中单个帖子可能引用来自树更高层的语义上下文。此类语义交叉引用使得单独理解单个帖子变得困难；而考虑整个对话树不仅难以扩展，还可能产生误导，因为单次对话可能有若干不同线索或要点，并非全部与所考虑帖子相关。本文提出一种基于图的注意力语义上下文建模（GASCOM）框架用于在线对话理解。具体而言，我们设计两种新颖算法，利用在线对话的图结构及单个帖子的语义信息，从整个对话中检索相关上下文节点。我们进一步设计词元级多头图注意力机制，对不同所选上下文话语中的不同词元施以不同注意力，以实现细粒度对话上下文建模。利用该语义对话上下文，我们重新审视两个深入研究的问题：极性预测与仇恨言论检测。所提框架在两项任务上显著优于最先进方法，宏-F1 分数在极性预测上提升 4.5%，在仇恨言论检测上提升 5%。GASCOM 上下文权重也增强了可解释性。
引用
@article{arxiv.2310.14028,
title = {GASCOM: Graph-based Attentive Semantic Context Modeling for Online Conversation Understanding},
author = {Vibhor Agarwal and Yu Chen and Nishanth Sastry},
journal= {arXiv preprint arXiv:2310.14028},
year = {2023}
}