使用几何深度学习的层次文本分类：以临床试验语料库为例
计算与语言
2021-11-01 v1 机器学习
摘要
我们将文档的层次表示视为图，并使用几何深度学习将其分类到不同类别。虽然图神经网络可以通过置换不变的消息传递操作高效处理层次文档的可变结构，但我们表明，利用我们提出的选择性图池化操作（该操作源于层次结构的某些部分在不同文档中是不变的）可以获得额外的性能提升。我们将模型应用于将临床试验方案分类为已完成和已终止类别。我们使用基于词袋的嵌入以及预训练的基于Transformer的嵌入来对图节点进行特征化，在包含约36万份方案的公开大规模临床试验注册库上实现了约0.85的F1分数。我们进一步展示了选择性池化如何为临床试验终止状态预测增加洞察力。我们公开了源代码和数据集划分。
引用
@article{arxiv.2110.15710,
title = {Classification of hierarchical text using geometric deep learning: the case of clinical trials corpus},
author = {Sohrab Ferdowsi and Nikolay Borissov and Julien Knafou and Poorya Amini and Douglas Teodoro},
journal= {arXiv preprint arXiv:2110.15710},
year = {2021}
}
备注
Accepted as a long paper in EMNLP 2021 - Oral presentation to the Machine Learning track