面向食品检查的公平决策

数据与算法是大规模决策过程必不可少且互补的组成部分。然而，正如近期研究人员与活动家所观察到的，对其不明智的使用可能导致始料未及的后果。本文中，我们重新审视芝加哥公共卫生部应用预测模型来安排餐厅检查并优先发现关键食品法规违规的行为。我们首次从发现关键违规的平均时间角度，分析了该模型对所服务餐厅人群公平性。我们发现模型基于实施检查的卫生检查员对检查进行不平等对待，进而模型收益存在地域差异。我们考察了四种替代的模型训练方法与两种替代的模型调度使用方式，发现后者产生了更可取的结果。该应用带来的挑战指出了未来工作的重要方向：针对集体实体而非个体的公平性、将关键违规作为代理变量使用，以及公平分类与动态调度系统公平性之间的脱节。