但谁来保护审核员？众包图像审核的案例
人机交互
2020-01-07 v4
摘要
尽管已开发出用于识别色情与暴力等不良内容的检测系统，人工智能尚不足以完全自动化该任务。由于需要人工核验，社交媒体公司可能雇佣内部审核员、从第三方聘请专业工人，或外包给在线劳动力市场以进行商业内容审核。这些内容审核员常完全暴露于极端内容之下，并可能遭受持久的心理与情感伤害。在本工作中，我们旨在通过探究以下问题来缓解该问题：我们如何向人工审核员揭示最少的信息量，同时仍能正确识别不良图像？我们设计并在Amazon Mechanical Turk（AMT）上由人工审核员过滤模糊的图形与非图形图像的实验。我们观察了混淆处理如何影响审核体验，涉及图像分类准确率、界面可用性以及工人的情感福祉。
引用
@article{arxiv.1804.10999,
title = {But Who Protects the Moderators? The Case of Crowdsourced Image Moderation},
author = {Brandon Dang and Martin J. Riedl and Matthew Lease},
journal= {arXiv preprint arXiv:1804.10999},
year = {2020}
}
备注
To be presented at the 6th AAAI Conference on Human Computation and Crowdsourcing (HCOMP 2018) and the 6th ACM Collective Intelligence Conference (CI 2018)