通过网络扩散学习潜在群稀疏性

解释变量上的群或聚类结构是机器学习问题中普遍现象，吸引了实践者和理论家的广泛关注。在本工作中，我们贡献了一个在此类群结构下进行稀疏学习的方法，无需对群身份的先验信息。我们的范式受到底层网络相关社区结构的拉普拉斯几何的启发，通过直接将其纳入一种有效通过热流基于局部网络动力学计算的惩罚项。提出的惩罚项在 lasso 和群 lasso 惩罚之间进行插值，热流动力学的运行时间充当插值参数。因此，当拉普拉斯所反映的群结构较弱时，它可以自动默认为 lasso。事实上，我们演示了一种基于可用数据构建此类网络的数据驱动程序，以无需进行涉及变量聚类、谱或其他计算密集型预处理。我们的技术得到严格的定理支持，这些定理保证其有效性能并提供样本复杂度的界限。特别是在广泛的设置下，只需进行与问题维度呈对数关系的扩散时间即可实现。我们详细探讨了我们方法与网络科学中关键统计物理模型的接口，如高斯自由场和随机阻塞模型。我们的工作提出了类似的扩散技术可用于经典学习任务的可能性，利用数据背后几何、动力学和随机结构之间的相互作用。