无偏学习器的稳定性与列表可复制性

两篇关键论文——Alon、Livni、Malliaris、Moran（STOC 2019）和Bun、Livni、Moran（FOCS 2020）——确立了在二进制分类中，线上学习可行性与全局稳定PAC学习可行性之间的等价性。然而，Chase、Chornomaz、Moran和Yehudayoff（STOC 2024）最近指出了这种等价性在无偏设置中不成立。具体而言，他们证明了在无偏设置下，只有有限的假设类才能实现全局稳定可学习。因此，无偏全局稳定性过于严格，难以捕捉有趣的假设类。为解决这一限制，Chase等人提出了两种对无偏全局稳定性的松弛形式。本文对在其提议的松弛条件下可学习的类进行特征化，解决了他们工作中提出的两个开放问题。首先，我们证明在稳定性参数可依赖于剩余误差（学习者的误差与假设类可实现的最佳误差之间的差距）的设置下，无偏稳定性完全由Littlestone维数决定。因此，正如在可实现情况下一样，这种形式的学习等价于线上学习。为了证明这一定理，我们通过显示即使允许稳定性参数依赖于剩余误差，具有无限Littlestone维数的类也不可稳定PAC学习，强化了Bun等人的著名结果。对于Chase等人提出的第二种松弛形式，我们证明即使将无偏设置限制在损失函数小的分布上，只有有限的假设类才能实现全局稳定可学习。