用于跨领域和生成器鲁棒 AI 文本检测的特征增强 Transformer
计算与语言
2026-05-06 v1 人工智能
摘要
如今，AI 生成的文本在不同领域和异构生成流水线中被大规模生产，这使得对分布偏移的鲁棒性成为有监督二元检测器的核心要求。我们在 HC3 PLUS 上训练基于 Transformer 的检测器，并通过在留出验证集上最大化平衡准确率来校准单一决策阈值；然后将该阈值固定用于所有下游测试分布，揭示了在偏移下依赖于领域和生成器的误差不对称性。我们在 HC3 PLUS 上进行领域内评估，在跨数据集迁移到多领域、多生成器 M4 基准测试上进行评估，并在外部 AI-Text-Detection-Pile 上进行评估。尽管基础模型在领域内取得了接近上限的性能（平衡准确率高达 99.5%），但在偏移下的性能很脆弱且强烈依赖于模型。通过基于注意力的语言特征融合进行的特征增强改善了迁移，我们的最佳模型（DeBERTa-v3-base+FeatAttn）在 M4 上取得了 85.9% 的平衡准确率。多种子实验证实了高稳定性。在相同的固定阈值协议下，我们的模型比强零样本基线高出多达 +7.22 个百分点。类别级别的消融进一步表明，可读性和词汇特征对偏移下的鲁棒性贡献最大。总体而言，这些结果表明，特征增强和现代 DeBERTa 主干显著优于早期的 BERT/RoBERTa 模型，而固定阈值协议为实际检测器的鲁棒性提供了更现实和信息丰富的评估。
引用
@article{arxiv.2605.03969,
title = {Feature-Augmented Transformers for Robust AI-Text Detection Across Domains and Generators},
author = {Mohamed Mady and Johannes Reschke and Björn Schuller},
journal= {arXiv preprint arXiv:2605.03969},
year = {2026}
}
备注
8 pages, 4 figures, 5 tables. Submitted to ICML 2026