MIPT-NSU-UTMN 在 SemEval-2021 任务 5：使用预训练语言模型集成学习进行毒性片段检测
计算与语言
2021-08-30 v1 人工智能
信息检索
机器学习
摘要
本文描述了我们用于 SemEval-2021 任务 5（毒性片段检测）的系统。我们使用基于 BERT 的神经架构和将词元组合为片段的后处理开发了集成模型。我们评估了多种预训练语言模型，并采用不同集成技术进行毒性片段识别，相较基线微调 BERT 模型取得了可观提升。最终，我们的系统在测试数据上获得了 67.55% 的 F1 分数。
引用
@article{arxiv.2104.04739,
title = {MIPT-NSU-UTMN at SemEval-2021 Task 5: Ensembling Learning with Pre-trained Language Models for Toxic Spans Detection},
author = {Mikhail Kotyushev and Anna Glazkova and Dmitry Morozov},
journal= {arXiv preprint arXiv:2104.04739},
year = {2021}
}
备注
Accepted at SemEval-2021 Workshop, ACL-IJCNLP 2021