五步掌握算法审计：如何为高中学生搭建系统性、批判性地评估机器学习应用的 Scaffold 框架
人机交互
2025-01-14 v3 人工智能
计算机与社会
摘要
尽管热议在支持年轻人批判性地评估由机器学习驱动系统的方面，但关于如何帮助他们系统性地询问这些系统如何运作以及其局限性和影响的研究仍寥寥。除 K-12 教育外，评估黑箱系统的有效策略是算法审计——一种从外部对算法系统不透明内部工作原理和外部影响进行理解的方法。本文回顾了专家研究人员如何进行算法审计以及终端用户如何参与审计实践，从而提出五个步骤，可融入学习活动中以支持年轻人进行算法审计。我们呈现了一个案例研究，展示一组青少年如何在一个校外工作坊中针对同伴设计的生成式 AI TikTok 过滤器进行审计。我们讨论了为支持青少年进行算法审计所提供的支架类型，以及将算法审计集成到课堂活动中的方向和挑战。本文贡献包括：(a) 对五个步骤以搭建算法审计学习活动的概念化，以及 (b) 我们在试点研究中青少年如何与每个步骤互动的示例。
引用
@article{arxiv.2412.06989,
title = {Learning About Algorithm Auditing in Five Steps: Scaffolding How High School Youth Can Systematically and Critically Evaluate Machine Learning Applications},
author = {Luis Morales-Navarro and Yasmin B. Kafai and Lauren Vogelstein and Evelyn Yu and Danaë Metaxa},
journal= {arXiv preprint arXiv:2412.06989},
year = {2025}
}