广义线性模型的统一置信序列及其在多臂偏置问题中的应用
摘要
我们提出一种基于似然比的统一置信序列(confidence sequence, CS),适用于任何(自共轨)广义线性模型(GLM),并保证其凸性和数值紧凑性。我们表明,该置信序列与已知用于各种GLM(包括高斯、伯努利和泊松)的置信序列相当或更优。特别是对于伯努利置信序列,首次实现-free半径,其中为未知参数的范数。我们的第一个技术新颖之处在于其推导,利用带有统一先验/后验的时均匀PAC-Bayesian边界,尽管后者是 derives CSs 中较不流行的选择。作为我们新置信序列的直接应用,我们提出一种简单自然的乐观算法称为OFUGLB,可适用于任何广义线性多臂偏置(GLB;Filippi等,2010)。我们的分析表明,著名的乐观方法同时为各种自共轨(不一定是有界的)GLB实现最先进的 regret,甚至对于有界GLB实现-free,包括逻辑多臂偏置。我们的第二个技术新颖之处在于regret分析,它通过将我们的新置信序列与一种全新证明技术结合,完全避免了之前广泛使用的自共轨控制引理(Faury等,2020,第9引理)。在数值实验中,OFUGLB在逻辑多臂偏置中表现出优于或与先前算法相当的性能。
引用
@article{arxiv.2407.13977,
title = {A Unified Confidence Sequence for Generalized Linear Models, with Applications to Bandits},
author = {Junghyun Lee and Se-Young Yun and Kwang-Sung Jun},
journal= {arXiv preprint arXiv:2407.13977},
year = {2025}
}
备注
39 pages, 2 figures, 2 tables; Accepted to the 38th Conference on Neural Information Processing Systems (NeurIPS 2024) (ver3: minor revisions, code refactoring; ver2: major revision, including new experiments, reorganization, fixing typos in the proofs of ver1, etc)