基于图的广义 Sobolev IPM
机器学习
2025-10-30 v1 机器学习
摘要
我们研究在图度量空间上支持的度量的 Sobolev IPM 问题,其中批评函数受限于由 Sobolev 范数定义的单位球内。虽然 Le 等人(2025)通过将 Sobolev 范数关联到加权 范数实现了可扩展计算,但所得框架仍固有地局限于 几何结构,限制其能力将替代结构性偏见纳入 beyond the 几何范式。为克服这一限制,我们提出通过 Orlicz 几何结构来广义 Sobolev IPM,后者采用凸函数来捕捉细粒度的几何关系,基于最优传输理论的最新进展——特别是 Orlicz-Wasserstein(OW)和广义 Sobolev 传输——这些方法在推进机器学习方法方面发挥了重要作用。这种广义不仅将经典 Sobolev IPM 作为特殊情况纳入,还能容纳超越传统 结构的多样化几何偏见。然而,它带来了与 Sobolev IPM 固有计算挑战相compounded 的显著计算挑战。为解决这些挑战,我们在 Orlicz-Sobolev 范数和 Musielak 范数之间建立了 novel 理论联系,这有助于为广义 Sobolev IPM(GSI)引入新的正则化。进一步利用底层图结构,我们显示 GSI with Musielak 正则化(GSI-M)简化为一种 simple univariate optimization problem,实现了显著的计算效率。实验上,GSI-M 在计算中比流行的 OW 快了多个数量级,在 document classification 和拓扑数据分析中的几个任务中 demonstrate了其 practical advantages。
引用
@article{arxiv.2510.25591,
title = {Generalized Sobolev IPM for Graph-Based Measures},
author = {Tam Le and Truyen Nguyen and Hideitsu Hino and Kenji Fukumizu},
journal= {arXiv preprint arXiv:2510.25591},
year = {2025}
}