中文

抗损坏的Lipschitz上下文搜索

机器学习 2024-02-02 v4 机器学习

摘要

我研究在二值信号受损情况下学习 Lipschitz 函数的问题。学习者试图学习对手选定的 LL-Lipschitz 函数 f:[0,1]d[0,L]f: [0,1]^d \rightarrow [0, L]。共进行 TT 轮。在每轮 tt,对手在输入空间中选择上下文向量 xtx_t,学习者对真实函数值 f(xt)f(x_t) 进行猜测,并接收指示猜测偏高或偏低的二值信号。在总共 CC 轮中,信号可能受损,但 CC 的值对学习者是未知的。学习者的目标是产生较小的累积损失。本文引入新算法技术“不可知检验”(agnostic checking)以及新的分析技术。我设计的算法:对于对称损失,学习者在 d=1d = 1 时达到遗憾 LO(ClogT)L\cdot O(C\log T),在 d>1d > 1 时达到 LOd(ClogT+T(d1)/d)L\cdot O_d(C\log T + T^{(d-1)/d});对于定价损失,学习者达到遗憾 LO~(Td/(d+1)+CT1/(d+1))L\cdot \widetilde{O} (T^{d/(d+1)} + C\cdot T^{1/(d+1)})

关键词

引用

@article{arxiv.2307.13903,
  title  = {Corruption-Robust Lipschitz Contextual Search},
  author = {Shiliang Zuo},
  journal= {arXiv preprint arXiv:2307.13903},
  year   = {2024}
}

备注

Accepted at ALT 2024