基于 Gromov-Monge 间隙的解耦表示学习

从无标签数据中学习解耦表示是机器学习中的一个根本性挑战。解决这一问题可能有助于解决其他问题，如泛化性、可解释性或公平性。虽然在理论上解决这一问题十分困难，但在实践中通常通过先验匹配来实现解耦。近期研究表明，先验匹配方法可以通过利用几何考虑来增强，例如学习能够保留数据几何特征（如点之间距离或角度）的表示。然而，在匹配先验的同时保留几何特征具有挑战性，因为一般情况下不存在能够同时完全保留这些特征且将数据分布与先验对齐的映射。为此，我们提出一种基于二次最优传输的解耦表示学习新方法。我们使用 Gromov-Monge 图来解决该问题，这些图在传输一个分布到另一个分布时，能够尽可能最小化预定义几何特征的扭曲，最大程度地保留这些特征。为计算此类图，我们提出了 Gromov-Monge 间隙 (GMG)，这是一种量化映射是否以最小几何扭曲移动参考分布的正则化器。我们在四个标准基准测试中展示了该方法在解耦方面的有效性， outperforming 其他利用几何考虑的方法。