因果机器学习在政策评估中的透明度挑战——提升可用性与问责性

因果机器学习工具正开始用于现实世界的政策评估任务，以灵活估计处理效应。这些方法的一个问题是所使用的机器学习模型通常是黑箱，即没有全局可解释的方式来理解模型如何做出估计。这在政策评估应用（尤其是政府中）是一个明显的问题，因为很难理解此类模型是否以公平的方式运行、是否基于正确的证据解释，以及是否足够透明以在出错时允许问责。然而，因果机器学习文献中很少讨论透明度问题以及该如何克服。本文探讨了为何透明度问题对公共政策评估应用中的因果机器学习是一个问题，并考虑了可通过可解释AI工具以及依据可解释AI原则简化模型来解决这些问题的途径。然后将这些思路应用于一个案例研究，使用因果森林模型估计澳大利亚离校年龄假设性变化的条件平均处理效应。研究表明，现有的理解黑箱预测模型的工具很不适用于因果机器学习，且为了简化模型使其可解释会导致误差的不可接受的增加（在此应用中）。结论指出，需要新的工具来恰当地理解因果机器学习模型及其拟合算法。