从文本到多模态：问答系统中对抗样本生成综述
计算与语言
2024-08-13 v2 人工智能
摘要
将对抗机器学习与问答（QA）系统相结合，已成为理解这些系统脆弱性和鲁棒性的关键领域。本文旨在全面综述QA领域中的对抗样本生成技术，包括文本和多模态场景。我们通过系统分类来审视所采用的技术，提供全面、结构化的综述。从传统QA模型概述开始，我们通过探索基于规则的扰动和先进生成模型来遍历对抗样本生成。然后我们将研究扩展到多模态QA系统，跨多种方法进行分析，并考察生成模型、seq2seq架构和混合方法。我们的研究扩展到不同的防御策略、对抗数据集和评估指标，并展示了对抗性QA的全面文献。最后，论文展望了对抗性问题生成的未来前景，强调了在对抗挑战背景下能够推进文本和多模态QA系统的潜在研究方向。
引用
@article{arxiv.2312.16156,
title = {From text to multimodal: a survey of adversarial example generation in question answering systems},
author = {Gulsum Yigit and Mehmet Fatih Amasyali},
journal= {arXiv preprint arXiv:2312.16156},
year = {2024}
}
备注
published in Knowledge and Information Systems