机器学习中偏置诱导特征的检测与评估

因果到效应分析可帮助我们分解问题的所有可能成因，例如不良的业务状况或对个体造成的非预期伤害。这意味着我们能够识别问题如何被继承、对成因排序以辅助优先修复、简化复杂问题并对其进行可视化。在机器学习（ML）语境下，可利用因果到效应分析来理解系统偏置行为的缘由。例如，我们可以通过检查每个特征是否为模型中潜在的偏置成因，来审视偏置的根源。为此，可依据若干准则对给定特征或特征对施加微小改动，并观察其如何影响模型所作决策（即模型预测）。因此，即便这些特征原本未知，我们也能借助因果到效应分析识别潜在的偏置诱导特征。这一点十分重要，因为当前多数方法需预先识别敏感特征以进行偏置评估，且实际上可能遗漏其他相关的偏置诱导特征，故对此类特征进行系统性识别是必要的。此外，往往为实现公平结果，不得不在模型决策中考虑敏感特征。因此，是否接受特定特征所诱导的偏置，应由领域专家依据其对决策背景的认知来决定。在本研究中，我们提出一种系统性识别模型所有偏置诱导特征的方法，以辅助领域专家的决策部署。我们使用四个知名数据集评估了该技术，以展示我们的贡献如何能在开发、测试、维护和部署公平/公正机器学习系统的标准流程中发挥引领作用。