幂律数据流下计数最小 sketches 的贝叶斯非参数方法
机器学习
2021-02-12 v2 机器学习
摘要
计数最小 sketch（CMS）是一种随机化数据结构，通过随机哈希对数据进行压缩表示，从而提供大数据流中词元频率的估计。在本文中，我们基于近期提出的 CMS 贝叶斯非参数（BNP）视角，开发了一种面向幂律数据流的新型学习增强型 CMS。我们假设流中的词元抽取自一个未知的离散分布，并为其赋予归一化逆高斯过程（NIGP）先验。随后，利用 NIGP 的分布性质，我们计算在给定哈希数据条件下词元频率的后验分布，进而得到相应的 BNP 估计。在合成数据与真实数据上的应用表明，我们的方法在低频词元估计方面取得了显著性能。众所周知，这是自然语言处理中一个理想特性，因为数据呈现幂律分布时低频词元确实十分常见。
引用
@article{arxiv.2102.03743,
title = {A Bayesian nonparametric approach to count-min sketch under power-law data streams},
author = {Emanuele Dolera and Stefano Favaro and Stefano Peluchetti},
journal= {arXiv preprint arXiv:2102.03743},
year = {2021}
}