用于缺失协变量的逻辑回归的摊销变分推断
机器学习
2026-03-24 v1 信号处理
摘要
缺失协变量数据在统计推断和机器学习中构成重大挑战，尤其是针对诸如逻辑回归等分类任务。经典的迭代方法（EM、多重插补）往往计算密集、对高缺失率敏感，且在不确定性传播方面受限。最近基于 VAE 的深度生成模型表现有前景，但依赖复杂的潜在表示。我们提出了用于逻辑回归的摊销变分推断 (AV-LR)，是一个用于二元逻辑回归的统一端到端框架。AV-LR 将概率生成模型与简单的摊销推断网络集成，通过最大化证据下界进行联合训练。不同于竞争方法，AV-LR 直接在缺失数据空间中进行推断，无需额外潜在变量，仅使用一个推断网络和一个线性层联合估计回归参数和缺失机制。AV-LR 在估计精度上与最先进的 EM 类算法相当或更好，同时计算成本显著降低。它能够通过显式建模缺失机制自然扩展到缺失不可随机 (missing-not-at-random) 情况。在合成数据和真实数据集上的实验结果确认了其在各种缺失数据情景下的有效性和效率。
引用
@article{arxiv.2603.21244,
title = {Amortized Variational Inference for Logistic Regression with Missing Covariates},
author = {M. Cherifi and Aude Sportisse and Xujia Zhu and Mohammed Nabil El Korso and A. Mesloub},
journal= {arXiv preprint arXiv:2603.21244},
year = {2026}
}
备注
25 pages, 12 figures, submitted to Statistics and Computing