“我不太懂所以不敢去偏置AI系统”：通过动手教程向AI创造者讲授性别偏见
人机交互
2023-09-18 v1 人工智能
计算机与社会
摘要
性别偏见在AI系统中十分猖獗，给女性带来糟糕的用户体验、不公正与心理伤害。学校课程未能就此主题教育AI创造者，致使他们无力缓解AI中的性别偏见。本文中，我们设计动手教程以提升AI创造者对于AI中性别偏见的意识，并增进其对性别偏见来源与去偏技术的知识。教程经18名AI创造者评估，包括AI研究人员、AI产业从业者（即开发者和产品经理）以及学过AI的学生。他们提升的意识与知识证明了我们教程的有效性，其有潜力补足CS/AI课程中不足的AI性别偏见教育。基于研究发现，我们综合出设计启示与一套量规，以指导未来的研究、教育与设计工作。
引用
@article{arxiv.2309.08121,
title = {"I'm Not Confident in Debiasing AI Systems Since I Know Too Little": Teaching AI Creators About Gender Bias Through Hands-on Tutorials},
author = {Kyrie Zhixuan Zhou and Jiaxun Cao and Xiaowen Yuan and Daniel E. Weissglass and Zachary Kilhoffer and Madelyn Rose Sanfilippo and Xin Tong},
journal= {arXiv preprint arXiv:2309.08121},
year = {2023}
}