Hopeful_Men@LT-EDI-EACL2021:基于印度语转写与 Transformer 的希望语音检测
计算与语言
2021-02-26 v2
摘要
本文旨在描述我们用于检测 HopeEDI 数据集中希望语音的方法。我们尝试了两种方案。第一种方案中,我们使用上下文嵌入,通过逻辑回归、随机森林、SVM 及基于 LSTM 的模型训练分类器。第二种方案涉及对 11 个模型进行多数投票集成,这些模型通过在预训练 transformer 模型(BERT、ALBERT、RoBERTa、IndicBERT)上添加输出层微调得到。我们发现第二种方案在英语、泰米尔语和马拉雅拉姆语上更优。我们的方案在英语、马拉雅拉姆语和泰米尔语上分别获得了 0.93、0.75 和 0.49 的加权 F1 分数。我们的方案在英语中排名第一,在马拉雅拉姆语中排名第八,在泰米尔语中排名第十一。
引用
@article{arxiv.2102.12082,
title = {Hopeful_Men@LT-EDI-EACL2021: Hope Speech Detection Using Indic Transliteration and Transformers},
author = {Ishan Sanjeev Upadhyay and Nikhil E and Anshul Wadhawan and Radhika Mamidi},
journal= {arXiv preprint arXiv:2102.12082},
year = {2021}
}