实践中调和预测多重性

许多机器学习应用预测个体概率，例如一个人患上特定疾病的可能性。由于这些概率是未知的，一个关键问题是如何处理在同一数据集上训练的不同模型对某些个体产生不同预测的情况。模型多重性（MM）现象就是这一问题的一个例证，即一组可比模型产生不一致的预测。Roth、Tolbert 和 Weinstein 最近引入了一种调和程序，即 Reconcile 算法，来解决这个问题。给定两个不一致的模型，该算法利用它们之间的分歧来证伪并改进至少其中一个模型。在本文中，我们使用五个广泛使用的公平性数据集——COMPAS、Communities and Crime、Adult、Statlog (German Credit Data) 和 ACS Dataset——对 Reconcile 算法进行了实证分析。我们考察了 Reconcile 如何融入模型多重性文献，并将其与现有的 MM 解决方案进行比较，证明了其有效性。我们还从理论和实践上讨论了对 Reconcile 算法的潜在改进。最后，鉴于不同的竞争性估计量可能再次在特定的因果平均处理效应（CATE）值上产生分歧，我们将 Reconcile 算法扩展到因果推断场景。我们提出了 Reconcile 算法在因果推断中的首次扩展，分析了其理论性质，并进行了实证测试。我们的结果证实了 Reconcile 的实际有效性及其在各个领域的适用性。