因果信息瓶颈与最优因果变量抽象
机器学习
2025-06-12 v5 人工智能
信息论
math.IT
机器学习
摘要
要有效地研究复杂的因果系统，通常有用于通过丢弃不相关细节来保留关键特征的方式，对系统的部分进行抽象。信息瓶颈（IB）方法是一种广泛用于构建变量抽象的方法，通过压缩随机变量来保留对目标变量的预测能力。传统方法如 IB 仅基于统计方法，忽略了底层因果结构，因而不适用于因果任务。我们提出了因果信息瓶颈（Causal Information Bottleneck，CIB），这是一种对 IB 的因果扩展，该方法在保持对目标变量的因果控制的同时压缩所选变量的集合。该方法产生可解释的变量抽象（或变量的集合），为我们提供关于抽象变量与目标变量之间相互作用的见解，并且可用于干预推理。我们 presented 实验结果，表明所学的抽象准确地捕获了预期的因果关系。
引用
@article{arxiv.2410.00535,
title = {The Causal Information Bottleneck and Optimal Causal Variable Abstractions},
author = {Francisco N. F. Q. Simoes and Mehdi Dastani and Thijs van Ommen},
journal= {arXiv preprint arXiv:2410.00535},
year = {2025}
}
备注
Accepted at UAI 2025. Code available at github.com/francisco-simoes/cib-optimization-psagd