使用大型语言模型过滤不适合推荐的内容

个性化算法可能无意中让用户接触到不适合推荐的内容， potentially 触发负面后果。不适合的主观性以及这些算法的黑箱本质使其更具挑战性，以有效识别和过滤此类内容。为此，我们首先进行了一个形式化研究，以了解用户关于不适合推荐过滤的实践和期望。随后，我们设计了一个基于大型语言模型 (Large Language Model, LLM) 的工具，称为 DiscomfortFilter，它构建一个可编辑的用户偏好档案，帮助用户通过对话表达过滤需求，以掩盖档案中的不适合偏好。基于编辑后的档案，DiscomfortFilter 以可插拔的方式实现不适合推荐的过滤，保持灵活性和透明性。构建的偏好档案改进了 LLM 的推理能力，简化了用户对齐，使 38 亿参数的开源 LLM 能够在离线代理任务中与顶级商业模型相当。我们进行了为期一周、包含 24 名用户的研究，证明了 DiscomfortFilter 的有效性，同时也突显了其对平台推荐结果的潜在影响。我们随后讨论了持续的挑战，概述了其对更广泛研究的相关性，评估了利益相关者的影响，并勾勒了未来研究方向。