审视儿童在人工智能问题构建过程中所反映的价值观
人机交互
2023-09-28 v1 人工智能
摘要
了解儿童如何设计以及他们在允许显式训练模型（如可教机器）的AI界面中看重什么，有助于提升此类活动的影响并指导未来技术的设计。在一次使用改良故事板的共同设计会话中，一个由5名儿童（7-13岁）和成人共同设计者组成的团队参与了AI问题构建活动，他们设想自己的可教机器。我们的发现借助成熟的心理学价值框架（Rokeach价值调查），阐明了儿童如何概念化并将其价值观嵌入他们自己设计的、用于支持日常活动的AI系统中。具体而言，我们发现儿童提出的想法需要先进的系统智能，例如情绪检测和了解用户的社会关系。底层模型可在多模态下训练，任何错误将通过添加更多数据或预判负例来修正。儿童的想法表明他们关心家庭，并期望机器在做出决策前理解其社会背景。
引用
@article{arxiv.2309.15839,
title = {Examining the Values Reflected by Children during AI Problem Formulation},
author = {Utkarsh Dwivedi and Salma Elsayed-ali and Elizabeth Bonsignore and Hernisa Kacorri},
journal= {arXiv preprint arXiv:2309.15839},
year = {2023}
}