中文

从文本到处理效应:处理文本基制混杂的元学习方法

人工智能 2024-11-14 v3

摘要

因果机器学习的核心目标之一是从观察数据中准确估计异质处理效应。近年来,元学习已成为一种灵活、模型无关的范式,用于估计任何监督模型的条件平均处理效应(CATE)。本文检验了当混杂变量以文本形式表达时,元学习器的性能。通过合成数据实验,我们展示,使用预训练的文本混杂变量表示(除了表格背景变量之外)的学习器,能够实现对CATE估计的改进,特别是在充足数据可用时。然而,由于文本嵌入的纠缠性,这些模型完全无法匹配具有完美混杂变量知识的元学习器的性能。这一发现既凸显了预训练文本表示在因果推断中的潜力,也揭示了其局限性,为未来的研究开辟了有趣的方向。

关键词

引用

@article{arxiv.2409.15503,
  title  = {From Text to Treatment Effects: A Meta-Learning Approach to Handling Text-Based Confounding},
  author = {Henri Arno and Paloma Rabaey and Thomas Demeester},
  journal= {arXiv preprint arXiv:2409.15503},
  year   = {2024}
}

备注

Presented at the NeurIPS 2024 Workshop on Causal Representation Learning