在线讨论的主动审核：现有实践与算法支持的潜力

为了应对普遍存在的不文明行为问题，许多在线讨论平台雇佣人工审核员对不良内容采取行动，例如删除内容或对其发布者进行制裁。这种针对已发布的反社会内容采取行动的反应式范式是目前最常见的审核形式，因此也是近期将自动化引入审核过程的诸多努力的基础。相比之下，理解其他审核范式——例如主动阻止反社会行为的出现而不是被动应对——以及算法支持在这些范式中所能发挥的作用的研究则相对较少。在这项工作中，我们在协作环境案例研究（维基百科讨论页）中调查了这种主动审核框架。我们采用混合方法，结合定性和设计组件进行整体分析。通过对审核员的访谈，我们发现尽管缺乏技术和社会支持，审核员已经在进行多种主动审核行为，例如先发制人地干预对话以使其保持在正轨上。此外，我们通过构建原型工具、将其展示给审核员并检查其提供的协助如何融入他们的工作流程，探索了自动化如何协助这种现有的主动审核工作流程。由此产生的反馈揭示了原型工具的优势和缺点，并提出了进一步开发此类辅助技术的具体步骤，使其能够最有效地支持审核员现有的主动审核工作流程。