从文本中检测不真诚问题:一种迁移学习方法
计算与语言
2020-12-15 v1 人工智能
机器学习
摘要
当今互联网已成为无与伦比的信息来源,人们在 Quora、Reddit、StackOverflow 和 Twitter 等内容型网站上交流疑问并与世界分享知识。此类网站的一个主要新兴问题是恶意评论或不真诚现象泛滥,用户不保持真诚动机,而是传播有毒和分裂性内容。应对此情况的直观做法是提前检测此类内容并防止其在线上存续。近年来自然语言处理中的迁移学习取得了空前发展。如今随着 transformer 和各种最先进(SOTA)创新的存在,各个 NLP 领域都取得了巨大进展。BERT 的引入在 NLP 社区引起了相当大的轰动。如前所述,BERT 在发表时主导了性能基准,从而启发许多其他作者对其进行实验并发表类似模型。这导致了整个 BERT 系列的发展,每个成员专攻不同任务。本文中我们通过微调四种前沿模型即 BERT、RoBERTa、DistilBERT 和 ALBERT 来解决不真诚问题分类问题。
引用
@article{arxiv.2012.07587,
title = {Detecting Insincere Questions from Text: A Transfer Learning Approach},
author = {Ashwin Rachha and Gaurav Vanmane},
journal= {arXiv preprint arXiv:2012.07587},
year = {2020}
}
备注
7 pages, 5 figures