多模态大语言模型在图像与文本上的安全性
计算机视觉与模式识别
2024-06-21 v3
摘要
受到多模态大语言模型（MLLMs）令人瞩目的强大能力吸引，公众越来越多地利用它们来提高日常工作的效率。尽管如此，MLLMs 对不安全指令的脆弱性在这些模型部署于真实场景时带来了巨大的安全风险。在本文中，我们系统地调查了当前关于 MLLMs 在图像和文本上安全性的评估、攻击和防御的研究工作。我们首先介绍了 MLLMs 在图像和文本上的概述以及对安全性的理解，这有助于研究人员了解我们调查的详细范围。然后，我们回顾了用于衡量 MLLMs 安全性的评估数据集和指标。接下来，我们全面介绍了与 MLLMs 安全性相关的攻击和防御技术。最后，我们分析了若干未解决的问题并讨论了有前景的研究方向。最新论文持续收集于 https://github.com/isXinLiu/MLLM-Safety-Collection。
引用
@article{arxiv.2402.00357,
title = {Safety of Multimodal Large Language Models on Images and Texts},
author = {Xin Liu and Yichen Zhu and Yunshi Lan and Chao Yang and Yu Qiao},
journal= {arXiv preprint arXiv:2402.00357},
year = {2024}
}
备注
Accepted at IJCAI2024