SafeScreen：面向易受伤用户个性化视频检索的安全优先筛选框架

开放域视频平台提供丰富且个性化的内容，可支持健康、照护和教育应用，但其以参与度为优化目标的推荐算法可能使易受伤用户暴露于不适或有害内容之中。尤其在儿童导向或痴呆症等照护场景中，内容必须在呈现前满足个体化的安全约束。我们引入SafeScreen，一个以安全为首要任务的视频筛选框架，用于在强制个体化安全约束的前提下检索和呈现个性化视频。SafeScreen不通过相关性或流行度对视频进行排序，而是将安全性视为前提，经过自动化管道对候选视频进行顺序批准或拒绝。SafeScreen集成了三个关键组件：(i)基于用户档案的提取个体化安全准则，(ii)通过自适应问题生成和多模态VideoRAG分析实现以证据为依据的评估，以及(iii)基于LLM的决策，确保在内容暴露前验证其安全性、适当性和相关性。该设计使其能够在不依赖预计算安全标签的情况下，对未经精心挑选的视频存储库进行可解释且实时的筛选。我们在痴呆症患者回忆案例研究中对SafeScreen进行评估，使用30个人工构建的患者档案和90个测试查询。结果表明，SafeScreen优先考虑安全性而非参与度，与YouTube的参与度优化排序在80%-93%的情况下呈现差异，同时保持高水平的安全覆盖率、合理性和扎实性，经由LLM-based评估和领域专家均得到验证。