基于贝叶斯非参数方法的增强型计数最小草图

计数最小草图（CMS）是一种时间和内存高效的随机数据结构，基于随机哈希数据提供令牌在数据流中频率（即点查询）的估计。Cai、Mitzenmacher 和 Adams（NeurIPS 2018）提出了一种称为 CMS-DP 的增强型 CMS，它依赖于通过狄利克雷过程（DP）先验对令牌数据流进行贝叶斯非参数（BNP）建模，点查询的估计作为给定哈希数据的点查询后验分布的适当均值泛函获得。尽管 CMS-DP 已证明在 CMS 的某些方面有所改进，但其主要缺陷源于一个“构造性”证明，该证明建立在专为 DP 先验定制的论证之上，即这些论证对其他非参数先验不可用。在本文中，我们给出了 CMS-DP 的一个“贝叶斯”证明，其主要优势在于所依据的论证原则上可用于由归一化完全随机测度产生的一大类非参数先验。该结果导致开发了一种针对幂律数据流的新颖增强型 CMS，称为 CMS-PYP，它依赖于通过 Pitman-Yor 过程（PYP）先验对令牌数据流进行 BNP 建模。在这一更通用的框架下，我们应用 CMS-DP“贝叶斯”证明的论证，并适当适配于 PYP 先验，以计算给定哈希数据的点查询后验分布。对合成数据和真实文本数据的应用表明，CMS-PYP 在估计低频令牌方面优于 CMS 和 CMS-DP，而低频令牌在文本数据中具有关键意义，并且它与专为低频令牌设计的 CMS 变体相比具有竞争力。我们还讨论了将 BNP 方法扩展到更一般查询的内容。