即时去偏：基于解释的机器学习系统决策人工监督

机器学习系统在招聘、金融和医疗保健等关键领域的广泛采用，引发了人们对其基于受保护属性做出歧视性决策的潜在风险的日益担忧。虽然确保开发过程中的公平性至关重要，但这使得已部署的机器学习系统在其运行过程中容易表现出歧视行为。为了解决这一差距，我们提出了一种新颖的框架，用于对已部署的机器学习系统中的歧视进行即时跟踪和纠正。该框架利用反事实解释，持续监控机器学习系统做出的预测，并标记出歧视性结果。当标记时，与原始预测和反事实替代方案相关的后验解释会呈现给人工审核员进行实时干预。这种人在回路的审核方法使审核员能够接受或覆盖机器学习系统的决策，从而在动态环境下实现公平和负责任的机器学习运行。虽然需要进一步的工作进行验证和完善，但该框架为减轻歧视和建立对部署在广泛领域的机器学习系统的信任提供了一条有希望的途径。