针对预训练统一基础模型的后门攻击
密码学与安全
2023-02-27 v3
摘要
预训练统一基础模型的兴起打破了不同模态和任务之间的壁垒，通过统一的架构为用户提供全面的支持。然而，针对预训练模型的后门攻击对其安全性构成了严重威胁。以往关于后门攻击的研究仅限于单模态任务或跨模态的单一任务，这使得其不适用于统一基础模型。在本文中，我们对预训练统一基础模型的后门攻击进行了概念验证层面的研究。通过对自然语言处理（NLP）和计算机视觉（CV）分类任务的初步实验，我们揭示了这些模型的脆弱性，并提出了增强攻击方法的未来研究方向。
引用
@article{arxiv.2302.09360,
title = {Backdoor Attacks to Pre-trained Unified Foundation Models},
author = {Zenghui Yuan and Yixin Liu and Kai Zhang and Pan Zhou and Lichao Sun},
journal= {arXiv preprint arXiv:2302.09360},
year = {2023}
}
备注
This paper is accepted as a poster for NDSS 2023