基于预测集合控制决策支持系统中的反事实伤害

基于预测集合的决策支持系统通过缩小可能的标签值的集合（即预测集合），帮助人类解决多类分类任务，并要求他们始终从预测集合中预测标签值。虽然此类系统已被证明在提高基于人类预测的平均准确率方面有效，但通过限制人类自主性，可能会导致伤害——成功地预测实例真实标签的人类可能在使用这些系统后反而失败。在本文中，我们的目标是通过设计控制基于预测集合的决策支持系统可能造成伤害的频率。为此，我们首先使用结构因果模型的理论框架来表征上述伤害的概念。然后，我们展示，在一种自然的（尽管不可验证的）单调性假设下，我们仅使用人类自己的预测即可估计系统可能造成伤害的频率。进一步地，我们还展示，在一种较弱的单调性假设下（可通过实验验证），我们再次仅使用人类自己的预测即可对系统可能造成伤害的频率进行上界估计。基于这些假设，我们引入一个计算框架，用于设计基于预测集合的决策支持系统，确保其造成伤害的频率小于用户指定的值，同时采用共形风险控制。我们使用来自两个不同人类主体研究的真实人类预测来验证我们的框架，表明在基于预测集合的决策支持系统中，存在准确率与反事实伤害之间的权衡。