电视内容审核搜索：在政策合规性、相关性与用户体验之间进行平衡

数百万人依赖搜索功能来发现和探索娱乐平台上的内容。现代搜索系统使用候选生成和排序方法的组合，其中包括深度学习和 LLM 技术来检索、生成和分类搜索结果。尽管有了这些进步，搜索算法仍可能由于模型不可预测性、元数据错误或被忽视的设计缺陷等因素，呈现不适当或不相关的内容。此类问题可能与产品目标和用户期望不一致，进而损害用户信任和业务成果。本文我们引入了额外的监控层，利用大语言模型（LLM）来增强内容审核。该额外的层会在用户未打算搜索其内容时对其进行标记。该方法为产品质量保证提供了基线，并收集的反馈用于细化初始检索机制，以确保更安全和更可靠的用户体验。