探究青少年在构建与解构活动中对生成式语言模型的技术与伦理理解
人机交互
2025-04-22 v1 计算机与社会
摘要
生成式人工智能/机器学习 (AI/ML) 技术的广泛采用增加了支持青少年发展 AI/ML 素养的需求。然而，大多数研究集中于准备年轻人使用这些系统，较少关注他们如何参与设计和评估。本研究探究了让青少年参与生成式语言模型 (GLMs) 的设计与审计如何促进他们从技术和伦理视角理解这些系统工作方式的能力。该研究采用拆解方法 (in-pieces approach) 探讨初学者对 GLMs 的概念。这种方法支持分析技术和伦理概念如何演化并相互关联。我目前正与 16 名 14-15 岁的九年级学生开展一系列参与式设计工作坊，让他们 (a) 从数据驱动的角度构建 GLMs，以展示数据如何影响模型性能；(b) 通过反复且系统地查询商业 GLMs 来审计这些模型，从而推断其行为。我将分析参与者的互动，识别他们在设计和审计 GLMs 时可能展现的伦理和技术概念。我还将进行临床访谈，并使用微发生知识分析和有序网络分析来探究参与者的伦理和技术概念如何相互关联以及工作坊后的变化。该研究将为 (a) 证明让青少年参与设计和审计活动如何支持其对 GLMs 的伦理和技术理解的发展，以及 (b) 列出支持青少年技术和伦理理解的初学者设计和审计实践清单。
引用
@article{arxiv.2504.15132,
title = {Investigating Youth's Technical and Ethical Understanding of Generative Language Models When Engaging in Construction and Deconstruction Activities},
author = {Luis Morales-Navarro},
journal= {arXiv preprint arXiv:2504.15132},
year = {2025}
}