通过条件委托实现人机协作：以内容审核为例

尽管AI模型在许多基准数据集上表现优异，仍可能犯错，尤其在分布外样本中。此类不完美模型如何有效与人协作仍属开放问题。已有工作聚焦于帮助人们做出个体高利害决策的AI辅助，这对大量相对低利害的决策（如审核社交媒体评论）不可扩展。相反，我们提出条件委托作为一种替代的人机协作范式，其中人类创建规则以指示模型的可信区域。以内容审核为试验平台，我们开发新颖界面以辅助人类创建条件委托规则，并用两个数据集进行随机实验以模拟分布内与分布外场景。我们的研究展示了条件委托在提升模型性能上的前景，并为这一新范式设计提供见解，包括AI解释的作用。