UPB在SemEval-2021任务7上的表现：用于检测与评级幽默和冒犯内容的对抗多任务学习
计算与语言
2021-04-14 v1 人工智能
摘要
检测幽默是一项具有挑战性的任务，因为词语可能具有多种效价，并且根据上下文，相同词语甚至可用于冒犯性表达。基于Transformer的神经网络架构在若干自然语言处理任务（尤其是文本分类）上取得了最先进的结果。对抗学习与其他技术（如多任务学习）相结合，有助于神经模型学习数据的内在属性。在这项工作中，我们描述了我们的对抗多任务网络AMTL-Humor，用于检测和评级SemEval-2021任务7中的幽默和冒犯性文本。模型的每个分支专注于解决一项相关任务，并由BiLSTM层后接Capsule层组成，顶层使用BERTweet生成上下文嵌入。我们的最佳模型由所有测试配置的集成构成，在任务1a上取得了95.66%的F1分数和94.70%的准确率，同时在任务1b和任务2上分别获得了0.6200和0.5318的RMSE分数。
引用
@article{arxiv.2104.06063,
title = {UPB at SemEval-2021 Task 7: Adversarial Multi-Task Learning for Detecting and Rating Humor and Offense},
author = {Răzvan-Alexandru Smădu and Dumitru-Clementin Cercel and Mihai Dascalu},
journal= {arXiv preprint arXiv:2104.06063},
year = {2021}
}
备注
7 pages, 2 figures, Accepted at SemEval-2021 Workshop, ACL-IJCNLP 2021