BeamVQ：用于物理时空预测数据稀缺问题的向量量化束搜索
机器学习
2025-02-27 v1 人工智能
摘要
在实际应用中，物理时空预测因数据收集困难，尤其是对于极端事件，常常面临数据稀缺的问题。因此，我们提出一种新型概率框架，通过引入新的自集成策略，实现迭代自训练，以在极端事件上实现更好的物理一致性和泛化能力。遵循任意基础预测模型，我们可以将其确定性输出编码到潜在空间，并检索多个码本条目以生成概率输出。然后，BeamVQ 将束搜索从离散空间扩展到该领域的连续状态空间。我们进一步利用领域特定指标（例如用于极端事件的关键成功指数）筛选出top-k候选方案，并通过组合高质量候选方案开发出新的自集成策略。该自集成不仅可以提高推理质量和鲁性，还能在持续自训练期间迭代增强训练数据集。因此，BeamVQ 实现了对原数据集之外的稀有但关键现象的探索。不同基准和主干模型上的全面实验表明，BeamVQ 在降低预测均方根误差（最高可降低39%）方面始终具有优势，增强了极端事件检测，证明了其处理数据稀缺问题的有效性。
引用
@article{arxiv.2502.18925,
title = {BeamVQ: Beam Search with Vector Quantization to Mitigate Data Scarcity in Physical Spatiotemporal Forecasting},
author = {Weiyan Wang and Xingjian Shi and Ruiqi Shu and Yuan Gao and Rui Ray Chen and Kun Wang and Fan Xu and Jinbao Xue and Shuaipeng Li and Yangyu Tao and Di Wang and Hao Wu and Xiaomeng Huang},
journal= {arXiv preprint arXiv:2502.18925},
year = {2025}
}