从稀疏决策到稠密推理：多属性轨迹范式下的多模态审查
机器学习
2026-02-04 v1 人工智能
计算与语言
计算机视觉与模式识别
摘要
安全审查对于识别有害内容至关重要。尽管文本安全审查取得了成功，但其多模态对手方法仍受数据和监督稀疏性的制约。传统方法依赖二元标签，导致捷足其道学习，掩盖了有效多模态判别所必需的本质分类边界。因此，我们提出一种新型学习范式 (UniMod)，将稀疏决策过渡到稠密推理轨迹。通过构建包含证据 grounding、模态评估、风险映射、政策决策和响应生成等结构化轨迹，我们将单一决策任务重新构建为多维边界学习过程。这一方法迫使模型在显式安全语义中 grounding 其决策，防止其收敛于浅层捷足。为支持这一范式，我们开发了多头标量奖励模型 (UniRM)。UniRM 通过为响应生成阶段分配属性级别分数，提供多维监督。此外，我们引入专门的优化策略以解耦任务特定参数并重新平衡训练动力学，有效解决多任务学习中不同目标之间的相互干扰。实证结果表明，UniMod 在竞争性文本审查性能方面取得好结果，并使用不到主流基线方法所需训练数据的 40% 建立了新的多模态基准。消融实验进一步验证了我们的多属性轨迹推理，为多模态审查提供了有效且高效的框架。补充材料可在\href{https://trustworthylab.github.io/UniMod/}{项目网站}获取。
引用
@article{arxiv.2602.02536,
title = {From Sparse Decisions to Dense Reasoning: A Multi-attribute Trajectory Paradigm for Multimodal Moderation},
author = {Tianle Gu and Kexin Huang and Lingyu Li and Ruilin Luo and Shiyang Huang and Zongqi Wang and Yujiu Yang and Yan Teng and Yingchun Wang},
journal= {arXiv preprint arXiv:2602.02536},
year = {2026}
}