基于Transformer与卷积神经网络组合的集成方法用于检测人工生成文本
计算与语言
2023-10-27 v1
摘要
得益于最先进的大语言模型(LLMs),语言生成已达到卓越水平。这些模型能够生成高质量内容,从而使得从人类撰写内容中检测生成文本成为一项具有挑战性的任务。尽管自然语言生成带来了诸多优势,但无法区分自动生成的文本可能会在真实性方面引发伦理担忧。因此,设计和开发检测人工内容的方法至关重要。在我们的工作中,我们提出了一些通过将Sci-BERT、DeBERTa和XLNet等Transformer模型与卷积神经网络(CNNs)进行集成构建的分类模型。我们的实验表明,所考虑的集成架构在分类任务上超越了单个Transformer模型的性能。此外,提出的SciBERT-CNN集成模型在ALTA 2023共享任务数据上取得了98.36%的F1分数。
引用
@article{arxiv.2310.17312,
title = {An Ensemble Method Based on the Combination of Transformers with Convolutional Neural Networks to Detect Artificially Generated Text},
author = {Vijini Liyanage and Davide Buscaldi},
journal= {arXiv preprint arXiv:2310.17312},
year = {2023}
}
备注
In Proceedings of the 21st Annual Workshop of the Australasian Language Technology Association (ALTA 2023)