中文

DIET:基于残差信息边际依赖度量的条件独立性检验

统计方法学 2023-04-12 v2 机器学习 机器学习

摘要

条件随机化检验(CRTs)用于评估在已观测协变量 zz 的条件下,变量 xx 是否可预测另一变量 yy。CRTs 需要拟合大量预测模型,这在计算上往往难以处理。现有降低 CRTs 成本的方案通常将数据集划分为训练集与测试集,或依赖交互作用的启发式方法,二者均导致检验效能的损失。我们提出解耦独立性检验(DIET),一种通过利用边际独立性统计量检验条件独立性关系来避免上述两方面问题的算法。DIET 检验两个随机变量的边际独立性:F(xz)F(x \mid z)F(yz)F(y \mid z),其中 F(z)F(\cdot \mid z) 为条件累积分布函数(CDF)。这些变量被称为“信息残差”。我们给出 DIET 实现有限样本第一类错误控制和效能大于第一类错误率的充分条件。进而我们证明,当使用信息残差间的互信息作为检验统计量时,DIET 产生最有功效的条件有效检验。最后,我们在多个合成与真实基准上表明 DIET 比其它可处理的 CRTs 具有更高效能。

关键词

引用

@article{arxiv.2208.08579,
  title  = {DIET: Conditional independence testing with marginal dependence measures of residual information},
  author = {Mukund Sudarshan and Aahlad Manas Puli and Wesley Tansey and Rajesh Ranganath},
  journal= {arXiv preprint arXiv:2208.08579},
  year   = {2023}
}