AILAB-Udine@SMM4H 22：Transformer 与 BERT 集成的局限性

Beatrice Portelli; Simone Scaboro; Emmanuele Chersoni; Enrico Santus; Giuseppe Serra

AILAB-Udine@SMM4H 22：Transformer 与 BERT 集成的局限性

计算与语言 2022-09-09 v1 机器学习

作者: Beatrice Portelli , Simone Scaboro , Emmanuele Chersoni , Enrico Santus , Giuseppe Serra

摘要

本文描述了 AILAB-Udine 团队为 SMM4H 22 共享任务开发的模型。我们探索了基于 Transformer 的模型在文本分类、实体抽取和实体规范化上的局限性，处理了任务 1、2、5、6 和 10。从不同任务参与中我们得到的主要结论是：在使用集成学习时组合不同架构具有压倒性的正向效果，以及生成模型在术语规范化方面的巨大潜力。

关键词

Transformer BERT 集成文本分类实体抽取实体规范化共享任务

引用

@article{arxiv.2209.03452,
  title  = {AILAB-Udine@SMM4H 22: Limits of Transformers and BERT Ensembles},
  author = {Beatrice Portelli and Simone Scaboro and Emmanuele Chersoni and Enrico Santus and Giuseppe Serra},
  journal= {arXiv preprint arXiv:2209.03452},
  year   = {2022}
}

备注

Shared Task, SMM4H, Transformers

AILAB-Udine@SMM4H 22：Transformer 与 BERT 集成的局限性

摘要

关键词

引用

备注

相关论文