多类可学习性的一项刻画

学习理论中的一项开创性结果通过 Vapnik-Chervonenkis 维刻画了二元类的 PAC 可学习性。自 1980 年代末多类 PAC 学习的开创性工作以来，将这一刻画推广到一般多类设定一直悬而未决。本文解决了这一问题：我们通过 DS 维（由 Daniely 和 Shalev-Shwartz 于 2014 年定义的一种组合维）刻画了多类 PAC 可学习性。二元情形的经典刻画可归结为经验风险最小化。相比之下，我们对多类情形的刻画涉及多种算法思想；其中包括我们称为列表 PAC 学习的一种自然设定。在列表学习设定中，目标不是对给定的未见输入预测单一结果，而是提供一个简短的预测菜单。我们的第二个主要结果关于 Natarajan 维，它一直是刻画多类可学习性的核心候选。该维由 Natarajan（1988）提出，作为 PAC 学习的一个障碍。自那时起，Natarajan 维是否在一般意义上刻画 PAC 可学习性已在多篇论文中被提出作为开放问题。本文给出否定答案：我们构造了一个 Natarajan 维为 1 的不可学习类。对于该构造，我们识别了概念类与拓扑（即彩色单纯复形）之间的基本联系。我们关键性地依赖于 Januszkiewicz 和 Swiatkowski 关于双曲伪流形的深刻且复杂的构造。有趣的是，双曲性与难以解决的学习问题直接相关，尽管不存在明显的障碍。这是机器学习与数学不同领域之间富有成果联系的又一例证。