锻造伪造者:尝试通过数据增强改进作者验证
机器学习
2024-10-30 v2 人工智能
计算与语言
摘要
作者验证是一项文本分类任务,旨在推断候选文本是否由某位特定作者或其他人撰写。已有研究表明,许多 AV 系统容易受到对抗性攻击,其中恶意作者会通过隐藏其写作风格或模仿其他作者的风格来主动欺骗分类器。在本文中,我们研究了用(负样本)合成示例增强分类器训练集的潜在益处。这些合成示例被生成以模仿目标作者的风格。我们分析了在对抗性环境下的 AV 任务中,这种数据增强给分类器预测带来的改进。具体而言,我们实验了三种不同的生成器架构(一种基于循环神经网络,另一种基于小规模 transformer,还有一种基于流行的 GPT 模型)以及两种训练策略(一种受标准语言模型启发,另一种受 Wasserstein 生成对抗网络启发)。我们在五个数据集(其中三个专门收集以代表对抗性环境)上评估了我们的假设,并使用了两种用于 AV 分类器的学习算法(支持向量机和卷积神经网络)。该实验得出了负面结果,表明尽管我们的方法在许多对抗性环境中被证明有效,但其益处过于零星,难以用于实际应用。
引用
@article{arxiv.2403.11265,
title = {Forging the Forger: An Attempt to Improve Authorship Verification via Data Augmentation},
author = {Silvia Corbara and Alejandro Moreo},
journal= {arXiv preprint arXiv:2403.11265},
year = {2024}
}