AppealMod：通过引入摩擦降低 moderator 处理用户申诉的工作负担

随着内容审核成为所有社交媒体平台和在线社区的核心环节，如何让审核决定可被质疑已引起关注。在由各个社区自行审核活动的社交媒体平台上，处理用户申诉的责任落在社区内部的志愿者身上。尽管已有越来越多的工作致力于理解和支持志愿者审核员的工作负担，但关于他们处理用户申诉的实践却知之甚少。通过与Reddit审核员的协作式迭代设计过程，我们发现审核员在调查用户封禁申诉上耗费大量精力，并希望直接与用户互动且在每项决定中保留自主权。为满足其需求，我们设计并构建了AppealMod，这是一个通过在用户申诉被人工审核员审阅前要求提供额外信息来在申诉流程中引入摩擦的系统。除了为审核员提供更多信息外，我们预期申诉流程中的摩擦会对用户产生选择效应，使许多不真诚和有毒的申诉在被人工审核员注意之前就被放弃。为评估我们的系统，我们在拥有超过2900万用户的Reddit社区中开展了一项持续四个月的随机现场实验。由于选择效应，审核员仅查看了30%的初始申诉以及不到10%含有有毒措辞的申诉；然而与对照组相比，他们批准的申诉数量大致相同。总体而言，我们的系统在降低审核员工作负担和最小化其接触有毒内容的同时，尊重了他们对于直接互动及在申诉中自主权的偏好。