动态公平性属性的运行时监控
计算机与社会
2023-05-09 v1 人工智能
摘要
一个在静态决策任务中公平的机器学习系统,从长远来看可能产生有偏差的社会影响。当系统与人交互并出现反馈模式时,可能会强化系统中的旧偏差并产生新偏差。现有工作试图通过智能系统设计来识别和缓解长期偏差,而我们引入了实时监控公平性的技术。我们的目标是构建并部署一个监控器,持续观察系统在真实环境中生成的长时间事件序列,并在每个事件发生时输出关于系统当前时刻公平性的判定。监控的优势有两方面。首先,公平性在运行时评估,这很重要,因为由于对系统和环境的部分认知,以及系统和环境中的不确定性与动态变化(如人类行为的不可预测性),不公平行为可能无法在设计时先验地消除。其次,监控器在设计上不关心被监控系统如何构建,这使其适合作为可信第三方公平性监督机构。它们作为计算轻量的统计估计器运行,其正确性证明依赖于对建模系统底层动态假设的随机过程的严格分析。我们在理论和实验中展示了监控器如何警告我们:(1)若某银行的信贷政策随时间在人群中造成了不公平的信用评分分布;(2)若某资源分配器的分配政策随时间造成了不公平分配。我们的实验表明监控器引入的开销极低。我们认为运行时监控是公平性工具箱中一个重要且数学上严谨的新补充。
引用
@article{arxiv.2305.04699,
title = {Runtime Monitoring of Dynamic Fairness Properties},
author = {Thomas A. Henzinger and Mahyar Karimi and Konstantin Kueffner and Kaushik Mallik},
journal= {arXiv preprint arXiv:2305.04699},
year = {2023}
}