公平性护盾：防范有偏见的决策者

随着基于人工智能的决策者对人类生活的影响日益增加，其决策相对于人们的敏感属性（如性别和种族）经常不公平或有偏见，这成为一个日益令人关注的问题。大多数现有的偏见预防措施在长期内提供概率公平性保证，而在短决策序列的特定实例上决策可能存在偏见。我们引入了公平性护盾，其中一个符号决策者——公平性护盾——持续监控另一个已部署黑盒决策者的决策序列，并进行干预，以便在最小化总干预成本的同时满足给定的公平性标准。我们提出了四种不同的计算公平性护盾的算法，其中一种在固定时间范围内保证公平性，另外三种在固定间隔后周期性地保证公平性。给定未来决策及其干预成本的分布，我们的算法以不同的计算成本和最优性保证求解有限时间范围最优控制问题的不同实例。我们的实证评估证明了这些护盾在确保公平性的同时在不同场景下保持成本效率的有效性。