定位风险：任务设计师与 RAI 内容工作中风险披露的挑战
人机交互
2026-04-01 v4 计算机与社会
摘要
随着 AI 系统越来越多地在开放式和高风险领域进行测试与部署，众包工人常被指派负责负责任 AI（RAI）内容工作。这些任务包括标注暴力内容、审核令人不安的文本，或为红队演练模拟有害行为，以塑造 AI 系统的行为。尽管先前的研究强调了 RAI 内容工作对工人福祉造成的风险，但关于这些风险如何由任务设计师或设计并发布 RAI 任务的人员传达给工人，却鲜少受到关注。现有的透明度框架和指南（如模型卡、数据表和众包表）侧重于记录模型信息和数据集收集过程，却忽略了向工人披露福祉风险这一重要方面。在缺乏标准工作流或明确指导的情况下，内容警告、同意流程或其他形式的福祉风险披露的一致应用仍不明确。本研究调查了任务设计师如何在众包 RAI 任务中处理风险披露。基于对学术界和工业界 23 位任务设计师的访谈，我们探讨了福祉风险在实践中如何被识别、解释和传达。我们的研究结果强调，需要支持任务设计师识别和传达风险，这不仅是为了支持众包工人的福祉，也是为了加强 AI 开发流程的伦理完整性和技术有效性。
引用
@article{arxiv.2505.24246,
title = {Locating Risk: Task Designers and the Challenge of Risk Disclosure in RAI Content Work},
author = {Alice Qian and Ryland Shaw and Laura Dabbish and Jina Suh and Hong Shen},
journal= {arXiv preprint arXiv:2505.24246},
year = {2026}
}