面向儿童的大型语言模型安全与伦理基准——SproutBench

大型语言模型 (LLM) 在面向儿童和青少年的应用中迅速普及，亟需重新评估以往以成人用户为导向、忽视儿童发展脆弱性的 AI 安全框架。本文指出现有 LLM 安全基准的关键缺陷，包括其不足的覆盖范围，无法充分把握年龄段相关的认知、情感和社会风险，涵盖幼儿期 (0--6 岁)、儿童期 (7--12 岁) 和青少年期 (13--18 岁)。为弥合这一鸿沟，我们引入 SproutBench——一个包含 1,283 个以发展心理学为依据的对抗性提示集合，旨�检验情感依赖、隐私侵犯及模仿危险行为等风险。通过对 47 个多样化 LLM 的严格实证评估，我们发现其安全漏洞显著，同时观察到稳健的维度间相关性（如 Safety 与 Risk Prevention 之间的相关性），并发现 Interactivity 与 Age Appropriateness 之间存在显著的负相关。这些发现为推进以儿童为中心的 AI 设计与部署提供了实用指导。