面向残障群体参与生成式人工智能开发的民主平台
人机交互
2023-09-27 v1 人工智能
摘要
人工智能（AI）系统，尤其是生成式 AI 技术，在我们的社会中正变得愈发重要。诸如 ChatGPT 之类的工具正被残障群体成员使用，例如自闭症患者可能借助它来协助撰写电子邮件。生成式 AI 工具日益增长的影响与普及促使我们审视它们在残障群体中的相关性。设计与开发阶段常常忽视这一边缘化群体，导致针对他们的不准确预测与不公正歧视。这可能源于创建与实施各阶段中数据集、算法与系统存在的偏差。本研讨会论文提出了一个在构建生成式 AI 系统时让残障群体参与的平台。借助该平台，我们旨在深入探究当残障群体使用生成式 AI 时，导致其生成输出中存在偏差的因素。此外，我们期望理解哪些算法因素是造成输出不正确或不相关的主要贡献者。所提出的平台呼吁来自不同地理与文化背景的残障与非残障人士，以民主的决策方式异步且远程地开展协作。
引用
@article{arxiv.2309.14921,
title = {A Democratic Platform for Engaging with Disabled Community in Generative AI Development},
author = {Deepak Giri and Erin Brady},
journal= {arXiv preprint arXiv:2309.14921},
year = {2023}
}