用于文本推理的高阶 Chebyshev 近似多跳图卷积网络
计算与语言
2021-06-10 v1 人工智能
摘要
图卷积网络（GCN）因在长程与非连续词交互上的优势，已在多种自然语言处理（NLP）任务中流行。然而，现有 GCN 中的单跳图推理可能遗漏某些重要的非连续依赖。在本研究中，我们定义了具有高阶动态 Chebyshev 近似的谱图卷积网络（HDGCN），其通过将直接依赖与长程依赖聚合的消息融合进一个卷积层来增强多跳图推理。为缓解高阶 Chebyshev 近似中的过平滑，我们还提出了具有线性计算复杂度的基于多投票的交叉注意力（MVCAttn）。在四个转导与归纳 NLP 任务上的实证结果与消融研究验证了所提模型的有效性。我们的源代码见于 https://github.com/MathIsAll/HDGCN-pytorch。
引用
@article{arxiv.2106.05221,
title = {Multi-hop Graph Convolutional Network with High-order Chebyshev Approximation for Text Reasoning},
author = {Shuoran Jiang and Qingcai Chen and Xin Liu and Baotian Hu and Lisai Zhang},
journal= {arXiv preprint arXiv:2106.05221},
year = {2021}
}