Twitter 时间线中 AI 生成文本的风格计量检测
计算与语言
2023-03-08 v1 机器学习
摘要
预训练语言模型的最新进展使得大规模生成类人文本的便捷方法成为可能。尽管这些生成能力对突破性应用具有巨大潜力，其也可能被对手用作生成错误信息的工具。特别是，如 Twitter 之类的社交媒体平台极易受到 AI 生成的错误信息影响。一种潜在的威胁场景是，对手劫持一个可信用户账户并引入自然语言生成器来生成错误信息。此类威胁使得针对给定用户 Twitter 时间线中 AI 生成推文的自动检测器成为必要。然而，推文本身简短，导致当前最先进的基于预训练语言模型的检测器难以准确检测给定 Twitter 时间线中 AI 从何时开始生成推文。在本文中，我们提出一种利用风格计量信号的新型算法以辅助检测 AI 生成推文。我们提出了与量化人类与 AI 推文风格变化相对应的模型，用于两项相关任务：任务 1——区分人类与 AI 生成推文；任务 2——检测给定 Twitter 时间线中 AI 是否以及何时开始生成推文。我们广泛的实验表明，风格计量特征在增强最先进的 AI 生成文本检测器方面是有效的。
引用
@article{arxiv.2303.03697,
title = {Stylometric Detection of AI-Generated Text in Twitter Timelines},
author = {Tharindu Kumarage and Joshua Garland and Amrita Bhattacharjee and Kirill Trapeznikov and Scott Ruston and Huan Liu},
journal= {arXiv preprint arXiv:2303.03697},
year = {2023}
}