Tool-MCoT: 用于内容安全审核的工具增强型多模态思维链
计算与语言
2026-04-09 v1 人工智能
摘要
在线平台的增长和用户内容需要强大的内容审核系统，能够处理来自多种媒体类型的复杂输入。虽然大语言模型(LLM)效果显著，但其高计算成本和延迟对可扩展部署构成重大挑战。为解决这一问题，我们提出Tool-MCoT，一个针对内容安全审核进行微调的小型语言模型(SLM)，利用外部框架。通过在由LLM生成的工具增强思维链数据上训练我们的模型，我们证明该SLM能够有效利用这些工具来提升其推理和决策能力。我们的实验表明，微调后的SLM取得了显著的性能提升。此外，我们证明该模型能够选择性地使用工具，通过仅在必要时调用工具，在审核准确性和推理效率之间取得平衡。
引用
@article{arxiv.2604.06205,
title = {Tool-MCoT: Tool Augmented Multimodal Chain-of-Thought for Content Safety Moderation},
author = {Shutong Zhang and Dylan Zhou and Yinxiao Liu and Yang Yang and Huiwen Luo and Wenfei Zou},
journal= {arXiv preprint arXiv:2604.06205},
year = {2026}
}