中文

利用基于条件独立性的模型检验提升 PC 算法效率

机器学习 2022-11-15 v1

摘要

学习因果结构在人工智能诸多领域(包括规划、机器人与解释)中颇有用途。基于约束的结构学习算法(如 PC)使用条件独立(CI)检验来推断因果结构。传统上,基于约束的算法偏好较小规模条件集进行 CI 检验,部分原因在于常规 CI 检验的统计功效随条件集规模增大而迅速下降。然而,许多现代条件独立检验是基于模型的,这些检验使用良好正则化的模型,即便在极大条件集下仍保持统计功效。这暗示了一种用于基于约束算法的新策略,可能减少所执行的 CI 检验总数:首先用大规模条件集检验变量对,作为预处理步骤快速发现若干条件独立性,之后再转向偏好小条件集的更常规策略。我们为 PC 算法提出这样一种预处理步骤,其依赖于在少数随机选取的大规模条件集上执行 CI 检验。我们对对应于真实系统的有向无环图(DAG)进行了实证分析,并对 Erdős-Renyi DAG 作了实证与理论分析。结果显示,预处理增强型 PC(P3PC)所执行的 CI 检验远少于原始 PC 算法,仅为单独 PC 算法所执行 CI 检验的 0.5% 至 36%,且常低于 10%。对于对应真实系统的 DAG,效率提升尤为显著。

关键词

引用

@article{arxiv.2211.06536,
  title  = {Improving the Efficiency of the PC Algorithm by Using Model-Based Conditional Independence Tests},
  author = {Erica Cai and Andrew McGregor and David Jensen},
  journal= {arXiv preprint arXiv:2211.06536},
  year   = {2022}
}

备注

Accepted at NeurIPS 2022 Workshop on Causality for Real-world Impact; 8 pages of main text including references