超越中餐馆与 Pitman-Yor 过程：具有双幂律行为的统计模型
机器学习
2025-02-06 v2 机器学习
摘要
贝叶斯非参数方法，特别是 Pitman-Yor 过程及相关的双参数中餐馆过程，已成功应用于数据呈现幂律行为的场景。例子包括自然语言处理、自然图像或网络。也有日益增长的经验证据表明，一些数据集呈现双区制幂律行为：低频为一个区制，高频为具有不同指数的第二区制。在本文中，我们引入一类双重正则变化的完全随机测度。与 Pitman-Yor 过程不同，我们表明当该类中的完全随机测度被归一化以获得随机概率测度及关联随机划分时，此类划分呈现双幂律行为。我们特别讨论了该类中的三种模型：beta prime 过程(Broderick 等(2015, 2018))、一种称为广义 BFRY 过程的新过程，以及一种混合构造。我们推导了高效的马尔可夫链蒙特卡洛算法来估计这些模型的参数。最后，我们表明所提模型在多个数据集上比 Pitman-Yor 过程提供更好的拟合。
引用
@article{arxiv.1902.04714,
title = {Beyond the Chinese Restaurant and Pitman-Yor processes: Statistical Models with Double Power-law Behavior},
author = {Fadhel Ayed and Juho Lee and François Caron},
journal= {arXiv preprint arXiv:1902.04714},
year = {2025}
}