雷达之下——审计用于人道主义制图的机器学习公平性

利用机器学习从太空进行人道主义制图，有助于政策制定者及时、准确地识别有需求的人群。然而，近期围绕算法决策公平性与透明度的担忧，是在实践中应用这些方法的重大障碍。在本文中，我们研究从太空进行的人道主义制图方法是否易于在其预测中产生偏差。我们基于夜间灯光（NTLs），使用线性回归和随机森林绘制印度村庄层面的贫困率与通电率，并分析预测是否对表列种姓或表列部落社区表现出系统性偏见。为此，我们设计了一种基于倾向得分匹配的因果方法来衡量反事实公平性。这使得能够将关注社区内的村庄与合成反事实进行比较。我们的发现表明，与合成反事实村庄组相比，表列部落的贫困被系统性高估，而通电率被系统性低估。对于表列种姓，效应方向相反：贫困被低估，而通电率被高估。这些结果对人道主义制图中多种应用而言是一个警示信号，其中公平性问题将损害政策目标。