安全语义，不安全解读：应对大视觉语言模型中的隐式推理安全问题
人工智能
2025-08-13 v1
摘要
大视觉语言模型在多模态输入下面临日益严峻的安全挑战。本文引入了隐式推理安全的概念，这是 LVLM 中的一种脆弱性。良性的组合输入会因有缺陷或隐藏的推理过程而触发不安全的 LVLM 输出。为展示这一点，我们构建了 Safe Semantics, Unsafe Interpretations（SSUI），这是针对此关键问题的首个数据集。我们的演示表明，即使使用 SSUI 进行简单的上下文学习也能显著缓解这些隐式多模态威胁，突显了改进跨模态隐式推理的迫切需求。
引用
@article{arxiv.2508.08926,
title = {Safe Semantics, Unsafe Interpretations: Tackling Implicit Reasoning Safety in Large Vision-Language Models},
author = {Wei Cai and Jian Zhao and Yuchu Jiang and Tianle Zhang and Xuelong Li},
journal= {arXiv preprint arXiv:2508.08926},
year = {2025}
}