中文

因果预测器在新领域上泛化能力更好吗?

机器学习 2024-10-24 v2 机器学习

摘要

我们研究了基于因果特征训练的机器学习模型在不同领域间的泛化能力。我们考虑了涵盖健康、就业、教育、社会福利和政治应用的表格数据集上的 16 个预测任务。每个数据集都包含多个领域,使我们能够测试在一个领域训练的模型在另一个领域中的表现。对于每个预测任务,我们选择对预测目标具有因果影响的特征。我们的目标是检验基于因果特征训练的模型在不同领域间泛化更好的假设。无一例外地,我们发现使用所有可用特征(不论因果性如何)的预测器,其领域内和领域外准确率均优于仅使用因果特征的预测器。此外,即使是从一个领域到另一个领域准确率的绝对下降幅度,因果预测器也不比使用所有特征的模型更好。另外,我们表明,最近用于领域泛化的因果机器学习方法在我们的评估中并不比在因果特征集上训练的标准预测器表现更好。同样,因果发现算法要么无法运行,要么选择的因果变量表现并不比我们的选择更好。广泛的稳健性检验证实,我们的发现在变量误分类下是稳定的。

关键词

引用

@article{arxiv.2402.09891,
  title  = {Do causal predictors generalize better to new domains?},
  author = {Vivian Y. Nastl and Moritz Hardt},
  journal= {arXiv preprint arXiv:2402.09891},
  year   = {2024}
}

备注

118 pages, 55 figures, accepted at NeurIPS'24