Lego Sketch：一种用于数据流 Sketch 的可扩展记忆增强神经网络
机器学习
2025-05-27 v1
摘要
Sketch 是一种在有限空间内估计无限数据流中项频率的概率结构，被广泛应用于各个领域。近期的研究重心已从手工设计的 sketch 转向神经 sketch，利用记忆增强神经网络（MANNs）来增强流压缩能力并实现更优的空间-精度权衡。然而，由于 MANN 配置不够灵活，现有的神经 sketch 难以扩展至不同的数据域和空间预算。本文引入了一种可扩展的 MANN 架构，实现了 {\it Lego sketch}——一种具有卓越可扩展性和准确性的新型 sketch。正如用模块化乐高积木拼装作品一样，Lego sketch 动态协调多个记忆块，以适应各种空间预算和多样的数据域。我们的理论分析保证了其高可扩展性，并首次为神经 sketch 提供了误差界限。此外，广泛的实验评估表明，Lego sketch 展现出更优的空间-精度权衡，优于现有的手工 sketch 和神经 sketch。我们的代码可在 https://github.com/FFY0/LegoSketch_ICML 获取。
引用
@article{arxiv.2505.19561,
title = {Lego Sketch: A Scalable Memory-augmented Neural Network for Sketching Data Streams},
author = {Yuan Feng and Yukun Cao and Hairu Wang and Xike Xie and S Kevin Zhou},
journal= {arXiv preprint arXiv:2505.19561},
year = {2025}
}
备注
ICML 2025