黑盒核心集变分推断
机器学习
2023-01-18 v2 机器学习
摘要
核心集方法的最新进展表明，选取代表性数据点可替代海量数据进行贝叶斯推断，保留相关统计信息并显著加速后续下游任务。现有的变分核心集构造依赖于选择观测数据的子集，或类似于高斯过程中的诱导点方法在观测空间中联合执行近似推断并优化伪数据。迄今为止，这两种方法都受限于在通用模型下评估其目标的复杂性，并且需要在整个推断和测试过程中从通常难处理的关于核心集的后验中采样。本工作中，我们提出一种用于核心集的黑盒变分推断框架，克服了这些限制，使变分核心集能够原则性地应用于难处理模型，如贝叶斯神经网络。我们将技术应用于监督学习问题，并与文献中现有的数据摘要和推断方法进行比较。
引用
@article{arxiv.2211.02377,
title = {Black-box Coreset Variational Inference},
author = {Dionysis Manousakas and Hippolyt Ritter and Theofanis Karaletsos},
journal= {arXiv preprint arXiv:2211.02377},
year = {2023}
}
备注
NeurIPS 2022