使用 Transformer 层进行多标签关系抽取
计算与语言
2025-02-24 v1 人工智能
摘要
本文提出了 BTransformer18 模型，这是一种用于法语文本多标签关系抽取的深度学习架构。我们的方案将 BERT 系列预训练语言模型的上下文表示能力——例如 BERT、RoBERTa 及其法语对应模型 CamemBERT 和 FlauBERT——与 Transformer 编码器的强大功能相结合，以捕捉标记之间长期依赖关系。在 TextMine'25 挑战的数据集上进行的实验表明，我们的模型在性能上优于基线方法，尤其是在使用 CamemBERT-Large 时，获得了 0.654 的宏平均 F1 分数，显著超过了使用 FlauBERT-Large 的结果。这一结果表明了我们方法对于从情报报告中自动抽取复杂关系的有效性。
引用
@article{arxiv.2502.15619,
title = {Extraction multi-\'etiquettes de relations en utilisant des couches de Transformer},
author = {Ngoc Luyen Le and Gildas Tagny Ngompé},
journal= {arXiv preprint arXiv:2502.15619},
year = {2025}
}
备注
in French language