轨道的错误一侧：大数据与受保护类别

当我们利用机器学习制定公共政策时，发现许多有用变量与其他变量相关联，而基于这些变量进行决策在伦理上是有问题的。在大数据时代，当预测往往缺乏对潜在因果机制的有力理论支持时，这一问题变得尤为尖锐。我们描述了当高性能算法未能提供明确的因果解释时对民主决策构成的危险。随后，我们展示了信息论如何使我们能够降低预测性能，使其与受保护变量去相关，同时仅造成最小的精度损失。然而，强制完全去相关充其量只是一种短期解决方案。因果论证在伦理辩论中的作用敦促开发新的、可解释的机器学习算法，以引用因果机制。