用于稳健的AI生成文本检测的群组自适应阈值优化
计算与语言
2026-02-03 v6 机器学习
摘要
大型语言模型（LLM）的进步使得区分人类撰写文本与AI生成文本变得困难。为此已开发出多种AI文本检测器，它们通常利用固定的全局阈值（例如，）来分类机器生成文本。然而，单一的全局阈值无法考虑各子组间的分布差异。例如，当使用固定阈值时，检测器在较短的人类撰写文本上会犯更多的假阳性错误，而在长文本中会对神经质写作风格进行更多的阳性分类。这些差异可能导致不成比例地影响某些群体的误分类。我们通过引入FairOPT来解决这一关键局限，这是一种针对概率型AI文本检测器的群组特定阈值优化算法。我们根据属性（例如，文本长度和写作风格）将数据划分为子组，并实施FairOPT为每个群组学习决策阈值以减少差异。FairOPT在九个检测器和三个异构数据集上表现出显著的差异缓解，并且通过在五个指标上将总体差异减少27.4%同时仅以0.005%的精度微小牺牲，显著缓解了极小极大问题。我们的框架通过后处理为AI生成内容检测中更稳健的分类铺平了道路。我们在URL发布了我们的数据、代码和项目信息。
引用
@article{arxiv.2502.04528,
title = {Group-Adaptive Threshold Optimization for Robust AI-Generated Text Detection},
author = {Minseok Jung and Cynthia Fuertes Panizo and Liam Dugan and Yi R. and Fung and Pin-Yu Chen and Paul Pu Liang},
journal= {arXiv preprint arXiv:2502.04528},
year = {2026}
}