ICM-Assistant: 用于基于规则的可解释图像内容审核的多模态大语言模型指令调优
计算机视觉与模式识别
2025-01-22 v2 计算与语言
摘要
争议性内容在互联网上泛滥，侵犯各种文化规范和儿童保护标准。传统的图像内容审核 (ICM) 模型在针对多样化标准做出精确审核决策方面不足，而最近的多模态大语言模型 (MLLM) 被用于通用基于规则的 ICM时，往往产生与人类审核员不一致的分类和解释结果。旨在实现灵活、可解释且准确的 ICM，我们设计了一种基于规则的数据集生成管道，分解简洁的人类定义规则并利用精心设计的多阶段提示丰富短而明确的图像注释。我们的 ICM-Instruct 数据集包括详细的审核解释和审核 Q&A 对。基于此，我们在基于规则的 ICM 框架中创建我们的 ICM-Assistant 模型，使其易于在实际中应用。我们的 ICM-Assistant 模型表现出卓越的性能和灵活性。具体而言，它在各种来源上的表现显著优于现有方法，持续地在多个方面提高了审核分类准度 (平均提升 36.8%) 和审核解释质量 (平均提升 26.6%)。代码/数据可在 https://github.com/zhaoyuzhi/ICM-Assistant 获取。
引用
@article{arxiv.2412.18216,
title = {ICM-Assistant: Instruction-tuning Multimodal Large Language Models for Rule-based Explainable Image Content Moderation},
author = {Mengyang Wu and Yuzhi Zhao and Jialun Cao and Mingjie Xu and Zhongming Jiang and Xuehui Wang and Qinbin Li and Guangneng Hu and Shengchao Qin and Chi-Wing Fu},
journal= {arXiv preprint arXiv:2412.18216},
year = {2025}
}
备注
Accepted by the AAAI 2025