二值感知器计算间隙——参数化 fl RDT 视角

最近的研究表明，二值感知器 (ABP) 可能存在所谓的统计-计算间隙，特征为两个相转换约束密度阈值的出现：\textbf{\emph{(i)}} \emph{satisfiability threshold} $\alpha_c$，低于/高于该阈值 ABP 成功/失败作为存储器运作；\textbf{\emph{(ii)}} \emph{algorithmic threshold} $\alpha_a$，低于/高于该阈值可/不可有效确定 ABP 的权重以其作为存储器运作。我们考虑 \emph{fully lifted random duality theory} (fl RDT) 的特定参数化用法 [85]，并研究其对 ABP 算法影响的潜在作用。我们在 fl RDT 提升层级中发现了显著的结构参数化变化。在前两个层级上，所谓的 \c 序列——fl RDT 的关键参数化组件——为（自然）递减类型。在更高层级上，这种现象学变化与 $\alpha_c$-$\alpha_a$ 阈值变化相关联。具体数值给出 $\alpha=\alpha_c\approx 0.8331$。在更高层级中，该估计值会降低，已在第五层观察到满意的收敛水平，得到 $\alpha\approx 0.7764$。这使我们能够得出两个惊人并列：\textbf{\emph{(i)}} 获得的约束密度估计与范围 $\alpha\in (0.77,0.78)$ 的聚类去防碎一致，被认为是局部改进算法失败的原因 [17,88]；\textbf{\emph{(ii)}} \c 序列现象学变化的观察 closely matches 负 Hopfield 模型的变化，而最近证明存在接近此类阈值的有效算法 [87]。