基于在线功率调优的预测驱动半监督学习
机器学习
2025-10-28 v1
摘要
预测驱动推断(Prediction-Powered Inference, PPI)是一种近期提出的用于参数估计的统计推断技术，它利用有标签和无标签数据上的伪标签来构建无偏、低方差的估计量。在本工作中，我们将其核心思想扩展到用于模型训练的半监督学习(SSL)，引入了一种新颖的无偏梯度估计量。这一扩展解决了SSL中的一个关键挑战：虽然无标签数据可以提升模型性能，但其收益高度依赖于伪标签的质量。不准确的伪标签会引入偏差，导致模型次优。为平衡有标签数据和伪标签数据的贡献，我们使用一个插值参数，并通过一维在线学习算法，在模型参数优化的同时在线调整该参数。我们通过在合成和真实数据集上的实验验证了本方法的实际优势，结果表明其性能优于经典的SSL基线方法和离线调整插值参数的PPI方法。
引用
@article{arxiv.2510.22586,
title = {Prediction-Powered Semi-Supervised Learning with Online Power Tuning},
author = {Noa Shoham and Ron Dorfman and Shalev Shaer and Kfir Y. Levy and Yaniv Romano},
journal= {arXiv preprint arXiv:2510.22586},
year = {2025}
}
备注
NeurIPS 2025