ConDA：用于 AI 生成文本检测的对比域适应方法
计算与语言
2023-09-22 v2 人工智能
机器学习
摘要
大型语言模型（LLMs）正日益被用于多种用例中的文本生成，包括新闻文章。鉴于这些 LLMs 可能被用于大规模生成虚假信息的潜在恶意性质，构建对此类 AI 生成文本的有效检测器十分重要。随着新 LLMs 开发的激增，为有监督检测器获取标注训练数据成为瓶颈。然而，可能有大量未标注文本数据可用，却无其来自哪个生成器的信息。在本工作中，我们解决这一数据问题，检测 AI 生成的新闻文本，并将该问题框定为无监督域适应任务。此处域为不同的文本生成器，即 LLMs，且我们假设仅能访问标注的源数据与未标注的目标数据。我们开发了称为 ConDA 的对比域适应框架，将标准域适应技术与对比学习的表征能力相融合，以学习对最终无监督检测任务有效的域不变表征。我们的实验证明了我们框架的有效性，相较最佳基线平均性能提升 31.7%，且距全监督检测器仅差 0.8% 的差距。我们的所有代码与数据可在 https://github.com/AmritaBh/ConDA-gen-text-detection 获取。
引用
@article{arxiv.2309.03992,
title = {ConDA: Contrastive Domain Adaptation for AI-generated Text Detection},
author = {Amrita Bhattacharjee and Tharindu Kumarage and Raha Moraffah and Huan Liu},
journal= {arXiv preprint arXiv:2309.03992},
year = {2023}
}
备注
Camera-ready for IJCNLP-AACL 2023 main track