用于社交媒体讽刺检测的可解释多头自注意力模型
计算与语言
2021-04-07 v1 人工智能
社会与信息网络
摘要
讽刺是一种语言表达，常用来传达与所说内容相反的意思，通常是某种非常不快、意在侮辱或嘲弄的话语。讽刺表达固有的歧义性使得讽刺检测十分困难。在本工作中，我们专注于从各类社交网络平台与在线媒体的文本对话中检测讽刺。为此，我们利用多头自注意力与门控循环单元开发了一个可解释的深度学习模型。多头自注意力模块有助于从输入中识别关键的讽刺线索词，而循环单元学习这些线索词之间的长距离依赖，以更好地对输入文本分类。我们通过在来自社交网络平台与在线媒体的多个数据集上取得最先进（SOTA）结果，展示了方法的有效性。采用我们所提方法训练的模型易于解释，并能识别输入文本中促成最终分类分数的讽刺线索。我们对若干样本输入文本可视化所学习的注意力权重，以展示模型的有效性与可解释性。
引用
@article{arxiv.2101.05875,
title = {Interpretable Multi-Head Self-Attention model for Sarcasm Detection in social media},
author = {Ramya Akula and Ivan Garibay},
journal= {arXiv preprint arXiv:2101.05875},
year = {2021}
}