中文

多目标多臂老虎机:优化广义基尼指数

机器学习 2017-06-16 v1

摘要

我们研究多臂老虎机 (MAB) 问题,其中智能体接收向量反馈,该反馈编码了许多可能相互竞争的待优化目标。智能体的目标是找到一种策略,能够以公平的方式同时优化这些目标。该多目标在线优化问题通过广义基尼指数 (GGI) 聚合函数进行形式化。我们提出了一种在线梯度下降算法,利用 GGI 聚合函数的凸性,并以谨慎的方式控制探索,从而以高概率实现免分布遗憾 \bigO~(T1/2)\tilde{\bigO} (T^{-1/2} )。我们在合成数据以及电池控制问题上测试了我们的算法,该问题的目标是权衡电池不同单元的使用,以平衡它们各自的退化率。

关键词

引用

@article{arxiv.1706.04933,
  title  = {Multi-objective Bandits: Optimizing the Generalized Gini Index},
  author = {Robert Busa-Fekete and Balazs Szorenyi and Paul Weng and Shie Mannor},
  journal= {arXiv preprint arXiv:1706.04933},
  year   = {2017}
}

备注

13 pages, 3 figures, draft version of ICML'17 paper