ProbLog4Fairness：一种神经符号方法用于建模与消除偏见

在实践中，操作化公平性定义困难，因为多个定义可能相互冲突，而每个定义又似乎都不可或缺。相反，直接通过针对特定实际任务的特定性偏见假设（例如，基于其背景信息中对系统性偏见的描述）来描述算法偏见可能更容易。然而，目前缺乏一种在原则性、灵活性和可解释性之间同时兼顾的框架来纳入此类假设。我们的做法是将偏见假设 formalizable 为 ProbLog 中的程序，该概率逻辑编程语言允许通过逻辑描述概率因果关系。ProbLog 的神经符号扩展则允许将这些假设轻松集成到神经网络的训练过程中。我们提出了一套表达不同类型偏见的模板，并在具有已知偏见的合成表格数据集上展示了方法的多样性。通过利用偏见失真的估计，我们也成功地在真实的表格数据和图像数据中消除了算法偏见。我们得出结论，ProbLog4Fairness 由于能够灵活地建模相关偏见假设而优于基线方法，而其他方法通常维持固定的偏见类型或公平性概念。