面向青少年的生成式 AI 风险理解：基于实证数据的分类法
人机交互
2025-02-27 v2
摘要
生成式 AI (GAI) 正在改变年轻用户与技术互动的方式。本研究引入一套基于青少年与 GAI 对话机器人交互的风险分类法，源自对 344 份对话记录、30,305 份 Reddit 讨论（涉及青少年与这些系统的互动）以及 153 起记录的 AI 相关事件的分析。我们将风险分为六大主题，识别出 84 个具体风险，并与四种不同的交互路径对应。我们的发现突显了新兴关注点，例如对心理健康、行为和社会发展的风险，以及新的形式的有害行为、隐私泄露和滥用/剥削，这些在现有儿童网络安全或 AI 风险框架中尚未完全得到 address。通过在实证数据基础上系统性地构建我们的分类法，本工作提供了一种结构化方法，帮助 AI 开发者、教育者、照顾者和政策制定者理解和缓解青少年与 GAI 交互相关的风险。
引用
@article{arxiv.2502.16383,
title = {Understanding Generative AI Risks for Youth: A Taxonomy Based on Empirical Data},
author = {Yaman Yu and Yiren Liu and Jacky Zhang and Yun Huang and Yang Wang},
journal= {arXiv preprint arXiv:2502.16383},
year = {2025}
}