基于变异的神经网络文本检测器对抗攻击
密码学与安全
2023-02-14 v1 人工智能
摘要
神经网络文本检测器旨在判定区分神经（机器生成）文本与人类文本的特征。为挑战此类检测器，对抗攻击可改变生成文本的统计特征，使检测任务愈发困难。受软件开发与测试中变异分析进展的启发，本文提出基于字符与词的变异算子，用于生成对抗样本以攻击最先进的自然文本检测器。这属于白盒对抗攻击。在此类攻击中，攻击者能够访问原始文本并基于该原始文本创建变异实例。最终目标是混淆机器学习模型与分类器并降低其预测准确率。
引用
@article{arxiv.2302.05794,
title = {Mutation-Based Adversarial Attacks on Neural Text Detectors},
author = {Gongbo Liang and Jesus Guerrero and Izzat Alsmadi},
journal= {arXiv preprint arXiv:2302.05794},
year = {2023}
}