利用 GPT-2 通过对抗训练在有限标注数据下分类垃圾评论
人工智能
2020-12-25 v1
摘要
在线评论是购买服务或产品时的重要信息来源。观点垃圾制造者操纵这些评论，蓄意改变对该服务的整体认知。尽管存在大量在线评论语料，但仅有少数被标注为垃圾或非垃圾，导致难以训练垃圾检测模型。我们提出一种对抗训练机制，利用生成式预训练 2（GPT-2）的能力，在有限标注数据与大量未标注数据下对观点垃圾进行分类。在 TripAdvisor 和 YelpZip 数据集上的实验表明，当标注数据有限时，所提模型在准确率上至少优于现有技术 7%。该模型还能以合理的困惑度生成合成的垃圾/非垃圾评论，从而在训练期间提供额外的标注数据。
引用
@article{arxiv.2012.13400,
title = {Leveraging GPT-2 for Classifying Spam Reviews with Limited Labeled Data via Adversarial Training},
author = {Athirai A. Irissappane and Hanfei Yu and Yankun Shen and Anubha Agrawal and Gray Stanton},
journal= {arXiv preprint arXiv:2012.13400},
year = {2020}
}
备注
arXiv admin note: text overlap with arXiv:1903.08289