核去偏插件估计：无需影响函数的多目标参数同步自动化去偏
统计方法学
2024-06-04 v5 机器学习
摘要
在非参数模型中估计带有 nuisance 参数的目标参数时，将未知 nuisance 替换为非参数估计量会引入“插件偏差”。解决这一次优偏差-方差权衡的传统方法依赖于目标参数的影响函数（IF）。当估计多个目标参数时，这些方法需要使用相应的 IF 对 nuisance 参数多次去偏，这带来了分析与计算上的挑战。在本工作中，我们利用目标最大似然估计（TMLE）框架提出一种名为核去偏插件估计（KDPE）的新方法。KDPE 通过正则化似然最大化步骤，采用基于再生核 Hilbert 空间的非参数模型来精炼初始估计。我们证明 KDPE：（i）同步去偏所有满足我们正则性条件的路径可微目标参数，（ii）实现时不需要 IF，且（iii）在计算上保持易处理。我们通过数值实验说明了 KDPE 的使用并验证了我们的理论结果。
引用
@article{arxiv.2306.08598,
title = {Kernel Debiased Plug-in Estimation: Simultaneous, Automated Debiasing without Influence Functions for Many Target Parameters},
author = {Brian Cho and Yaroslav Mukhin and Kyra Gan and Ivana Malenica},
journal= {arXiv preprint arXiv:2306.08598},
year = {2024}
}
备注
To appear at the Forty-first International Conference on Machine Learning (ICML 2024)