面向文本分类的持续图卷积网络
计算与语言
2023-04-11 v1
摘要
图卷积网络（GCN）已成功应用于捕捉文本分类的全局非连续与长距离语义信息。然而，尽管基于 GCN 的方法在离线评估中展现出良好结果，它们通常遵循见令牌-见文档范式，通过构建固定的文档-令牌图，无法对新文档进行推断。将其部署于在线系统以推断流式文本数据是一大挑战。在本工作中，我们提出一种持续 GCN 模型（ContGCN），将推断从已观测文档泛化到未观测文档。具体而言，我们提出一种新的全令牌-任意文档范式，在在线系统的训练与测试阶段每批次动态更新文档-令牌图。此外，我们设计了一个出现记忆模块和自监督对比学习目标，以无标签方式更新 ContGCN。在华为舆情分析系统上为期 3 个月的 A/B 测试显示，ContGCN 相比最先进方法取得了 8.86% 的性能提升。在五个公开数据集上的离线实验也表明 ContGCN 能改善推断质量。源代码将发布于 https://github.com/Jyonn/ContGCN。
引用
@article{arxiv.2304.04152,
title = {Continual Graph Convolutional Network for Text Classification},
author = {Tiandeng Wu and Qijiong Liu and Yi Cao and Yao Huang and Xiao-Ming Wu and Jiandong Ding},
journal= {arXiv preprint arXiv:2304.04152},
year = {2023}
}
备注
9 pages, 4 figures, AAAI 2023 accepted paper