扩展 LLM 评审以用于 Google Ads 内容审核
信息检索
2024-02-23 v1 计算与语言
机器学习
摘要
大型语言模型（LLM）是用于内容审核的强大工具，但其推理成本和延迟使其无法大规模应用于 Google Ads 数据集等大型数据集的日常处理。本研究提出了一种扩展 LLM 评审以用于 Google Ads 内容审核的方法。首先，我们使用启发式方法通过过滤和去重来选择候选对象，并创建广告聚类，为每个聚类选择一个代表性广告。然后，我们使用 LLM 仅审核这些代表性广告。最后，我们将 LLM 对代表性广告的决策传播回其所属聚类。该方法将审核数量减少了 3 个数量级以上，同时与基线非 LLM 模型相比实现了 2 倍的召回率。该方法的成功在很大程度上取决于聚类和标签传播中使用的表示；我们发现跨模态相似性表示比单模态表示产生更好的结果。
引用
@article{arxiv.2402.14590,
title = {Scaling Up LLM Reviews for Google Ads Content Moderation},
author = {Wei Qiao and Tushar Dogra and Otilia Stretcu and Yu-Han Lyu and Tiantian Fang and Dongjin Kwon and Chun-Ta Lu and Enming Luo and Yuan Wang and Chih-Chun Chia and Ariel Fuxman and Fangzhou Wang and Ranjay Krishna and Mehmet Tek},
journal= {arXiv preprint arXiv:2402.14590},
year = {2024}
}