当理解成为风险：新兴图像生成范式中的真实性与安全风险
计算机视觉与模式识别
2026-03-26 v1 人工智能
密码学与安全
摘要
最近，多模态大语言模型(MLLMs)作为一种统一的语言和图像生成范式涌现出来。与扩散模型相比，MLLMs在语义理解方面具有更强的能力，能够处理更复杂的文本输入并理解更丰富的上下文含义。然而，这种增强的语义能力也可能引入新的且潜在更大的安全风险。以扩散模型为参考基准，我们系统地分析和比较了新兴MLLMs在两个维度上的安全风险：unsafe内容生成和虚假图像合成。在多个unsafe生成基准数据集上，我们观察到MLLMs倾向于生成比扩散模型更unsafe的图像。这一差异部分源于扩散模型通常无法解释抽象提示，产生损坏的输出，而MLLMs能够理解这些提示并生成unsafe内容。对于当前先进的虚假图像检测器，MLLMs生成的图像也更难识别。即使检测器使用MLLMs特定的数据进行再训练，仅通过提供更长且更具描述性的输入仍可轻易规避。我们的测量表明，新兴的生成范式、即MLLMs，其潜在的安全风险尚未得到充分的认识，为实际应用带来了新的挑战。
引用
@article{arxiv.2603.24079,
title = {When Understanding Becomes a Risk: Authenticity and Safety Risks in the Emerging Image Generation Paradigm},
author = {Ye Leng and Junjie Chu and Mingjie Li and Chenhao Lin and Chao Shen and Michael Backes and Yun Shen and Yang Zhang},
journal= {arXiv preprint arXiv:2603.24079},
year = {2026}
}
备注
Accepted by CVPR 2026. 15 pages, 11 figures