基于流的算法公平性监控

自动决策和预测系统越来越多地部署在对人们生活产生重大影响的应用中，例如预测贷款申请人的信用worthiness或被告的再犯风险。这些应用催生了一类新的算法公平性规范，要求系统在决策和预测时不对社会群体产生偏见。静态验证这些规范对于现实系统通常难以实现，因为系统可能包含复杂的学习组件，并在大输入空间上进行推理。因此，在本文中，我们提出基于流的监控作为运行时验证决策和预测系统算法公平性的解决方案。具体而言，我们提出了一种在规范语言RTLola中形式化时间数据流上算法公平性的原则性方法，并在多个基准上证明了该方法的有效性。除了特别突出其在具有可扩展数据量的流上效率的合成场景外，我们还在来自再犯预测工具COMPAS的真实世界数据上评估了监控器。