ICQ:一种面向比特受限信道下最优臂辨识的量化方案
机器学习
2023-05-02 v1 信息论
多智能体系统
math.IT
摘要
我们研究多臂老虎机设置的一种分布式变体中的最优臂辨识问题,该变体包含一个中心学习者和多个智能体。每个智能体与老虎机的一个臂相关联,生成遵循未知分布的随机奖励。此外,每个智能体可通过比特受限信道将观测到的奖励与学习者通信。我们提出了一种称为量化膨胀置信度(ICQ)的新颖量化方案,可应用于现有的基于置信界的学习算法,如逐次消去法。我们分析了将 ICQ 应用于逐次消去法的性能,表明所得到的整体算法(称为 ICQ-SE)具有与(未量化)SE 算法同阶最优的样本复杂度。而且,它仅需要学习者和智能体之间呈指数稀疏的通信频率,从而比现有量化方案所需比特数大幅减少,以成功辨识最优臂。我们通过数值实验验证了 ICQ 相对于其他量化方法的性能提升。
引用
@article{arxiv.2305.00528,
title = {ICQ: A Quantization Scheme for Best-Arm Identification Over Bit-Constrained Channels},
author = {Fathima Zarin Faizal and Adway Girish and Manjesh Kumar Hanawal and Nikhil Karamchandani},
journal= {arXiv preprint arXiv:2305.00528},
year = {2023}
}
备注
17 pages, technical report