面向组级遗憾的预言机高效算法

我们研究在线预测问题：在每个时间步 $t$，个体 $x_t$ 到达，我们必须预测其标签。每个个体关联多个群体，这些群体基于年龄、性别、种族等特征定义且可能相交。我们的目标不仅是总体上有遗憾（regret）保证，还能同时在由任一单一群体成员构成的每个子序列上提供预测。先前工作如 [Blum & Lykouris] 与 [Lee et al] 为这些问题提供了吸引人的遗憾保证；然而，这些在大型模型类上计算上难以处理。我们表明，对 [Blum & Lykouris] 的休眠专家（sleeping experts）技术作简单修改，可高效归约至无群体考量下获得递减外部遗憾这一已被充分理解的问题。我们的方法相较 [Blum & Lykouris] 给出类似遗憾保证；但我们的运行时间与群体数量呈线性关系，且在假设类上预言机高效（oracle-efficient）。这尤其意味着，只要群体数量被多项式界限制且外部遗憾问题可高效求解，我们的算法即高效，这改进了 [Blum & Lykouris] 要求模型类必须较小的更强条件。我们的方法可处理在线线性回归与在线组合优化问题如在线最短路径。除提供理论遗憾界外，我们在合成数据及两个真实数据集——医疗成本与 Adult 收入数据集上开展大量实验评估该算法，两者均按种族、性别及其他人口统计特征定义相交群体实例化。我们发现，在所有群体上，我们的算法相比运行无组级遗憾保证的标准在线线性回归算法给出了显著的误差改进。