二进制分类的网络信息聚合

我们研究有向无环图（DAG）上的网络二进制分类，其中每个代理人仅观察共享数据集的子集特征列。代理人按 DAG 中的顺序行动：每个代理人接收其父母（如果有）的预测列， 将这些列添加到本地特征中，通过最小化二进制交叉熵（BCE）拟合逻辑预测器，并将其预测列转发给其后继邻居。我们询问的是，这种顺序分布式训练程序是否实现了信息聚合， meaning some agent attains small excess loss compared to the best logistic predictor trained with access to all feature columns. 该问题已由 Kearns、Roth 和 Ryu（SODA 2026）在平方损失下对线性回归进行了研究。将这些保证扩展到分类是非平凡的，因为他们的分析依赖于二次结构，而直接传递到 BCE 带有 logistic link 的情况。我们分析 resulting sequential logit-passing protocol and prove: (i) 在深度为 $D$ 的路径下，对每个 $M$ 个连续代理人组成的子序列都有全部分析的条件下， excess loss 上界为 $O(M/\sqrt{D})$， and (ii) 一个接近下界，表明存在实例的 excess loss 至少为 $\Omega(k/D)$，其中 $k$ 为特征空间的维数。 这些结果共同指出，网络深度是网络逻辑回归中信息聚合的基本瓶颈。