D-BIAS：一种基于因果性的人机协同算法偏见处理系统

随着 AI 的兴起，算法已能更好地从训练数据中学习潜在模式，包括基于性别、种族等根深蒂固的社会偏见。此类算法在招聘、医疗、执法等领域的部署引发了人们对机器学习算法的公平性、问责性、信任度和可解释性的严重关切。为缓解该问题，我们提出 D-BIAS，一种体现人机协同 AI 方法的视觉交互工具，用于审计和消除表格数据集中的社会偏见。它使用图形因果模型来表示数据集中不同特征之间的因果关系，并作为注入领域知识的媒介。用户可通过识别因果网络中的不公平因果关系并利用一系列公平性指标，检测针对某一群体(如女性)或子群体(如黑人女性)的偏见存在。此后，用户可通过作用于不公平的因果边来减轻偏见。对于每次交互(如削弱/删除有偏因果边)，系统使用一种新方法基于当前因果模型模拟新的(去偏)数据集。用户可直观地评估其交互对不同公平性指标、效用指标、数据失真及底层数据分布的影响。满意后，他们可下载去偏数据集并用于任何下游应用以获得更公平的预测。我们通过 3 个数据集上的实验以及一项正式用户研究对 D-BIAS 进行评估。我们发现，相较于基线去偏方法，D-BIAS 在不同公平性指标下显著降低了偏见，同时仅带来微小数据失真和少量效用损失。此外，我们基于人机协同的方法在信任度、可解释性和问责性上显著优于自动化方法。