基于 Transformer 的多任务学习用于灾难推文分类
计算与语言
2021-10-18 v1
摘要
社交媒体使人们能够及时传播信息，从而激励人们在危机情况下发布寻求帮助的消息。这些消息有助于应急响应人员的情境感知，他们需要根据信息类型（即消息所请求的援助服务类型）对这些消息进行分类。我们引入了一种基于 Transformer 的多任务学习 (MTL) 技术，用于分类信息类型并估计这些消息的优先级。我们通过向 TREC 事件流 (IS) 赛道（一个专为灾难推文分类和优先级排序设计的研究倡议）提交运行结果，使用多种指标评估了我们方法的有效性。结果表明，与其他参与运行的提交相比，我们的方法在大多数指标上取得了有竞争力的性能。随后，我们发现，在我们的方法中结合不同 Transformer 编码器的集成方法有助于显著提高整体有效性，在几乎所有指标上都达到了最先进的性能。我们公开了代码，以便我们的工作可以被复现，并作为该领域未来工作的基线供社区使用。
引用
@article{arxiv.2110.08010,
title = {Transformer-based Multi-task Learning for Disaster Tweet Categorisation},
author = {Congcong Wang and Paul Nulty and David Lillis},
journal= {arXiv preprint arXiv:2110.08010},
year = {2021}
}
备注
18th International Conference on Information Systems for Crisis Response and Management (ISCRAM 2021)