ModSandbox：通过错误预测与自动规则改进辅助在线社区审核

尽管基于规则的工具有常用于在线内容审核，人类审核员仍花费大量时间监控它们以确保按预期工作。基于对使用 AutoModerator 的 Reddit 审核员的调查与访谈，我们确定了减少自动规则假阳性与假阴性的主要挑战：无法提前估计规则的实际效果，以及难以弄清规则应如何更新。为解决这些问题，我们构建了 ModSandbox，一种新颖的虚拟沙盒系统，可检测待改进规则可能的假阳性与假阴性，并可视化规则中导致问题的部分。我们对在线内容审核员开展了用户研究，发现 ModSandbox 可支持快速发现自动规则可能的假阳性与假阴性，并引导审核员更新这些规则以减少未来错误。