设计以儿童为中心的内容曝光与审核

关于儿童在线体验和计算机交互的研究常常忽视了儿童与那些控制他们所见内容的隐藏算法之间的关系。此外,这不仅关乎儿童如何与定向内容互动,还关乎他们的发展和自主性如何受到这些内容的重大影响。通过参与以下四个领域交叉的文献: i) 以人为中心的设计方法, ii) 人工智能中的排斥与歧视, iii) 隐私、透明度和问责制, 以及 iv) 儿童的在线公民身份,本文深入探讨了这样一个问题:“我们如何设计一个以儿童为中心的审核流程,以(1)包含家庭为其子女所重视的方面,并(2)提供关于内容适当性和移除的解释,以便我们能够(根据系统和人类需求)扩展由人工智能辅助的审核流程?”本文从社会技术角度突出了设计以儿童为中心的内容控制工具的核心挑战与机遇。文章最后为以儿童为中心、家庭指导的审核系统奠定基础并描述了其设计考量。我们希望这项工作能为那些关注儿童在线安全、着眼于控制儿童在线体验的隐藏代理以及由此延伸的儿童所接触的价值观和机会的设计师和研究人员提供一块垫脚石。