学习增强的频繁方向算法
机器学习
2025-03-04 v1 数据结构与算法
摘要
Hsu 等人 (ICLR'19) 引入了学习增强流式算法在频率估计算情境下的研究。频率估计是一个基本问题,其目标是仅使用少量内存即可近似估计数据流中出现次数。Hsu 等人构建了一种自然框架,将流行解决方案如 CountMin 和 CountSketch 的最坏情况保证与对高频元素的学习预测相结合。他们展示,利用学习数据底层结构可用于在理论和实践中获得更好的流式算法。我们简化并泛化了过去关于学习增强频率估计的工作。我们的第一项贡献是开发一种学习增强的 Misra-Gries 算法,超越了学习增强的 CountMin 和学习增强的 CountSketch 的误差,实现了随机算法的最新性能 (Aamand 等, NeurIPS'23),同时采用更简单、确定性的算法。我们的第二项贡献是将学习增强技术适用于频率估计的高维推广,即从数据流中逐行给出的矩阵中寻找重要方向(前n个奇异向量)。我们分析了学习增强的 Frequent Directions 算法的变体,扩展了对学习预测在矩阵流式处理中的理论和实证理解。
引用
@article{arxiv.2503.00937,
title = {Learning-Augmented Frequent Directions},
author = {Anders Aamand and Justin Y. Chen and Siddharth Gollapudi and Sandeep Silwal and Hao Wu},
journal= {arXiv preprint arXiv:2503.00937},
year = {2025}
}