可复制的在线学习
机器学习
2024-11-22 v1
摘要
我们在在线设置中探讨了 Impagliazzo 等人 2022、Ghazi 等人 2021、Ahn 等人 2024 引入的算法可复制性概念。在我们的模型中，由作弊者选择的时变分布生成的输入序列由在线学习器接收。我们的目标是设计低后悔的在线算法，使得在高概率下，对两个独立抽样的输入序列运行时，产生完全相同的动作序列。我们称此类算法为对抗性可复制算法。以往作品（如 Esfandiari 等人 2022）在输入来自固定分布独立抽样的情形下探讨了可复制性，在我们称之为 iid 可复制性。我们的模型泛化以捕捉对抗和 iid 输入序列及其混合，可通过将某些分布设置为点质量来实现。我们展示了针对在线线性优化和专家问题的对抗性可复制在线学习算法，实现亚线性后悔。此外，我们提出了将在线学习器转换为我们设置下的对抗性可复制器的通用框架，给出新的后悔上界。我们还提出了一个在专家问题上几乎最优（就后悔而言）的 iid 可复制在线算法，突显了 iid 与对抗性可复制性之间的区别。最后，我们在后悔（以可复制性参数和时间为维度）上建立了下界，表明任何可复制在线算法必然要付出的代价。
引用
@article{arxiv.2411.13730,
title = {Replicable Online Learning},
author = {Saba Ahmadi and Siddharth Bhandari and Avrim Blum},
journal= {arXiv preprint arXiv:2411.13730},
year = {2024}
}