探索生成式人工智能中父母与子女关于安全的感知：关切、缓解策略与设计启示
人机交互
2024-10-31 v2
摘要
生成式人工智能 (Generative Artificial Intelligence, GAI) 在青少年群体中的广泛使用，导致了大量滥用和安全问题。为识别风险并理解父母对 GAI 控制措施的挑战，我们对 Reddit 上的内容进行了内容分析，并对 20 名受访者（7 名青少年和 13 名父母）进行了访谈。我们的研究发现，父母对孩子使用 GAI 的方式存在显著的认知差距，例如通过角色基聊天机器人获取情感支持或发展虚拟关系。父母与孩子对 GAI 风险的感知存在差异：父母主要关心数据收集、误导信息以及接触不适内容；而青少年则更担忧因虚拟 GAI 关系产生上瘾、 GAI 被用于在社交群组中传播有害内容以及因未经授权使用个人数据而侵犯隐私。由于 GAI 平台缺乏父母控制功能，父母只能依赖系统内置的控制措施、手动检查历史记录、共享账户以及进行积极中介。尽管已采取上述措施，父母仍难以全面理解 GAI 相关风险，更难进行有效的实时监控、中介和教育。我们提供设计建议，以改善父母与子女之间的沟通，并提升 GAI 使用的安全性。
引用
@article{arxiv.2406.10461,
title = {Exploring Parent-Child Perceptions on Safety in Generative AI: Concerns, Mitigation Strategies, and Design Implications},
author = {Yaman Yu and Tanusree Sharma and Melinda Hu and Justin Wang and Yang Wang},
journal= {arXiv preprint arXiv:2406.10461},
year = {2024}
}
备注
16 pages