统一多模态大模型是否代价？——Uni-SafeBench：面向统一多模态大模型的安全基准
人工智能
2026-04-02 v1 机器学习
摘要
统一多模态大模型（UMLMs）将理解和生成能力集成到单一架构中。虽然这种架构统一性通过多模态特征的深度融合增强了模型性能，但也引入了重要且尚未充分探讨的安全挑战。现有的安全基准主要关注孤立的理解或生成任务，无法评估在统一框架下处理多样化任务时的整体安全性。为此，我们提出Uni-SafeBench，一个包含六大主要安全类别的全面基准，覆盖七种任务类型。为确保严格评估，我们开发了Uni-Judger框架，有效地将情境安全性与内在安全性分离。基于对Uni-SafeBench的全面评估，我们发现尽管统一过程增强了模型能力，但显著降低了底层LLM的内在安全性。此外，开源UMLMs的安全性能远低于专为生成或理解任务优化的多模态大模型。我们开源所有资源，以系统性地暴露这些风险，推动更安全的AGI发展。
引用
@article{arxiv.2604.00547,
title = {Does Unification Come at a Cost? Uni-SafeBench: A Safety Benchmark for Unified Multimodal Large Models},
author = {Zixiang Peng and Yongxiu Xu and Qinyi Zhang and Jiexun Shen and Yifan Zhang and Hongbo Xu and Yubin Wang and Gaopeng Gou},
journal= {arXiv preprint arXiv:2604.00547},
year = {2026}
}