通过 LLM 生成的探针理解父母对调控儿童与生成式 AI 聊天机器人互动的需求
人机交互
2026-03-13 v2 人工智能
摘要
本文研究了父母如何希望调控儿童与生成式 AI 聊天机器人之间的互动，以此为未来生成式 AI 父母控制工具的设计提供依据。我们首先使用 LLM 生成合成的儿童与生成式 AI 聊天机器人互动情景，并邀请四位父母验证其真实性。从该数据集中，我们精选了 12 个能够引发不同程度关切且评估为最真实的示例。每个示例包括一个提示词和生成式 AI 聊天机器人的响应。我们向 24 位父母展示这些示例，并询问他们是否认为这些情景令人担忧、为何如此以及希望如何修改响应以及如何向儿童传达。我们的发现揭示了三个关键见解：(1)父母对当前生成式 AI 聊天机器人父母控制工具所忽视的互动表达关切；(2)父母希望在对话层面获得细粒度的透明度和调控；(3)父母需要能够适应其所需策略和儿童年龄的个性化调控。
引用
@article{arxiv.2603.03727,
title = {Understanding Parents' Desires in Moderating Children's Interactions with GenAI Chatbots through LLM-Generated Probes},
author = {John Driscoll and Yulin Chen and Viki Shi and Izak Vucharatavintara and Yaxing Yao and Haojian Jin},
journal= {arXiv preprint arXiv:2603.03727},
year = {2026}
}
备注
33 pages, 10 figures, Accepted to ACM CHI 2026