因果抽象的多臂赌博机
机器学习
2024-07-18 v2 人工智能
摘要
多臂赌博机(MAB)和因果多臂赌博机(CMAB)是决策问题的既定框架。先前的大部分工作通常针对给定的问题和相关数据,孤立地研究和解决单个 MAB 和 CMAB。然而,决策者经常面临多个相关问题和多尺度观测,需要联合公式化才能有效地利用问题结构和数据依赖性。CMAB 的迁移学习解决了模型定义在相同变量上但因果连接可能不同的情况。在这项工作中,我们将迁移学习扩展到涉及定义在潜在不同变量上、具有不同粒度级别、并通过抽象映射相关联的 CMAB 设置。形式上,我们依靠因果抽象理论引入了因果抽象 MAB(CAMABs)问题,以表达严格的抽象映射。我们提出了在 CAMAB 中进行学习的算法,并研究了它们的遗憾。我们在一个与在线广告相关的真实世界场景中说明了我们算法的局限性和优势。
引用
@article{arxiv.2404.17493,
title = {Causally Abstracted Multi-armed Bandits},
author = {Fabio Massimo Zennaro and Nicholas Bishop and Joel Dyer and Yorgos Felekis and Anisoara Calinescu and Michael Wooldridge and Theodoros Damoulas},
journal= {arXiv preprint arXiv:2404.17493},
year = {2024}
}
备注
8 pages, 3 figures (main article); 20 pages, 10 figures (appendix); 40th Conference on Uncertainty in Artificial Intelligence (UAI)