QwenSafe：基于偏好对齐的多模态内容评级描述识别
计算机视觉与模式识别
2026-05-21 v1
摘要
移动应用市场需要开发者披露标准化的内容评级描述符(CRDs)，以便通知用户潜在的敏感或受限内容。确保这些披露的准确性和一致性仍具有挑战性，因为应用内容具有多模态特性，涵盖文本描述和视觉界面。在本文中，我们提出QwenSafe，一个面向自动识别苹果制定的CRDs的视觉语言模型(VLM)，通过联合推理应用元数据和屏幕截图来实现。为支持可扩展的训练，我们引入metadata2CRD数据构建管道，通过组合应用描述、屏幕截图和正式描述符定义合成描述符对齐的问答对。我们对Qwen3-VL-8B进行监督式微调，随后进行直接偏好优化(DPO)，以在视觉和文本模态之间实现与描述符相关证据和解释的对齐。我们在12个苹果制定的内容评级描述符上评估了QwenSafe，并将其与最先进的视觉语言模型（包括Qwen3-VL、LLaVA-1.6和Gemini-2.5-Flash）进行比较。QwenSafe在二元CRD分类中 consistently 超越所有基线，分别实现了正类召回率提升111.8%、36.1%和2.1%。我们的结果表明，描述符感知的多模态对齐显著改善了自动化内容分类，凸显了视觉语言模型在支持移动应用市场可扩展且一致的内容评级方面的潜力。
引用
@article{arxiv.2605.20584,
title = {QwenSafe: Multimodal Content Rating Description Identification via Preference-Aligned VLMs},
author = {Dishanika Denipitiyage and Aruna Seneviratne and Suranga Seneviratne},
journal= {arXiv preprint arXiv:2605.20584},
year = {2026}
}