理解 Eluder 维数

我们为 eluder 维数提供了新的见解，这是一种被广泛用于界定带函数近似的在线赌博机与强化学习算法后悔界的复杂度度量。首先，我们研究函数类的 eluder 维数与一种广义秩概念之间的关系，该广义秩针对任意单调“激活”函数 $\sigma : \mathbb{R}\to \mathbb{R}$ 定义，对应于将该类表示为广义线性模型所需的最小维数。已知当 $\sigma$ 的导数远离 $0$ 时有界时，$\sigma$-秩为任意函数类的 eluder 维数提供上界；然而我们表明 eluder 维数可以比 $\sigma$-秩指数级更小。我们还表明导数条件是必要的；即当 $\sigma$ 为 $\mathsf{relu}$ 激活时，eluder 维数可以比 $\sigma$-秩指数级更大。对于二值函数类，我们依据星数（star number）和阈值维数（threshold dimension）刻画了 eluder 维数，这两个量分别在与主动学习和在线学习相关的领域中具有重要意义。