Transformer 增强型关系分类：情境性、数据效率与序列复杂度的比较分析
计算与语言
2025-09-16 v1 人工智能
摘要
在大型语言模型时代，关系抽取（RE）在通过将非结构化原始文本转化为结构化数据方面发挥着重要作用（Wadhwa 等，2023）。本文系统比较了基于深度监督学习的方法，分别包含和不包含Transformer架构。我们使用一系列不含Transformer的架构，如PA-LSTM（Zhang等，2017）、C-GCN（Zhang等，2018）和AGGCN（注意力引导 GCN，Guo等，2019），以及一系列包含Transformer的架构，如BERT、RoBERTa和R-BERT（Wu和He，2019）。我们的比较包括传统指标如微F1分数，以及在不同场景下的评估，涉及句子长度变化和训练数据集比例变化。我们的实验在TACRED、TACREV和RE-TACRED数据集上进行。结果表明，基于Transformer的模型在不基于Transformer的模型（微F1分为80-90%）上取得了显著优势（微F1分为64-67%）。此外，本文简要回顾了监督式关系分类的研究进程，讨论了大型语言模型（LLM）在关系抽取中的作用和当前状况。
关键词
引用
@article{arxiv.2509.11374,
title = {Transformer Enhanced Relation Classification: A Comparative Analysis of Contextuality, Data Efficiency and Sequence Complexity},
author = {Bowen Jing and Yang Cui and Tianpeng Huang},
journal= {arXiv preprint arXiv:2509.11374},
year = {2025}
}