学习影响信任:面向儿童及几乎所有人的对话智能体教学建议与概念设计
人机交互
2022-09-13 v1
摘要
研究表明,人与智能体之间的关系形成方式类似于人与人之间的关系。由于儿童不具备与成人相同的批判性分析能力(例如可能过度信任技术),这种关系形成令人担忧。然而,极少有研究深入调查儿童对对话智能体的认知,更鲜有研究考察教育如何改变这些认知。我们提出了配套对话 AI 概念的 K-12 工作坊,以鼓励对智能体形成更健康的认知与关系。通过对该课程以及来自不同国家的儿童和父母的研究,我们发现参与者对智能体的认知——特别是其伙伴模型与信任——发生了改变。当参与者讨论对智能体信任的变化时,我们发现他们最常提及学到了某些东西。例如,他们频繁提到了解到智能体从何处获取信息、智能体如何处理这些信息以及如何被编程。基于结果,我们提出了教授对话智能体概念的建议,包括强调学生认为最具挑战性的概念,如训练、轮次交替与术语;以相关学习活动补充智能体开发活动;培养对智能体的适当信任水平;以及培育准确的智能体伙伴模型。通过此类教学法,学生能够学会更好地理解对话 AI 及其存在于世界中的意义。
引用
@article{arxiv.2209.05063,
title = {Learning Affects Trust: Design Recommendations and Concepts for Teaching Children -- and Nearly Anyone -- about Conversational Agents},
author = {Jessica Van Brummelen and Mingyan Claire Tian and Maura Kelleher and Nghi Hoang Nguyen},
journal= {arXiv preprint arXiv:2209.05063},
year = {2022}
}
备注
9 pages, 11 figures, submitted to EAAI at AAAI 2023, for associated appendix: https://gist.github.com/jessvb/e35bc0daf859c30f73008a1ad1b37824