Advacheck 在 GenAI Detection Task 1 中:由领域感知多任务驱动的 AI 检测
计算与语言
2024-11-19 v1
摘要
本文描述了 Advacheck 团队为 GenAI Detection Task 1 竞赛的单语子任务设计的系统,旨在识别机器生成文本与人类撰写文本。我们开发的系统是一种多任务架构,在多个分类头之间共享 Transformer Encoder。其中一个头负责区分人类撰写文本与机器生成文本的二元分类,而其他头则是针对来自特定数据集的不同领域文本的辅助多类分类器。由于多类头被训练用于区分数据中呈现的领域,它们对样本提供了更好的理解。该方法使我们在官方排名中以测试集上 83.07% 的宏 F1 分数取得第一名,并超越基线 10%。我们进一步通过消融、误差和表示分析研究了所得系统,发现多任务学习优于单任务模式,且同时进行的任务在嵌入空间中形成了聚类结构。
引用
@article{arxiv.2411.11736,
title = {Advacheck at GenAI Detection Task 1: AI Detection Powered by Domain-Aware Multi-Tasking},
author = {German Gritsai and Anastasia Voznyuk and Ildar Khabutdinov and Andrey Grabovoy},
journal= {arXiv preprint arXiv:2411.11736},
year = {2024}
}