中文

XFACTORS:通过对比监督实现解耦信息瓶颈

机器学习 2026-01-30 v1 人工智能

摘要

解耦表示学习旨在将独立的变异因子映射到独立的表示组件。一方面,纯无监督方法在完全解耦的合成数据上取得成功,但缺乏强 inductive 偏置无法从真实数据中恢复语义因子。另一方面,监督方法不稳定且难以扩展到大量属性集合,因为它们依赖对抗目标或辅助分类器。我们引入了\textsc{XFactors},这是一种弱监督变分自编码器框架,能够解耦并对选定的因子提供显式控制。基于解耦信息瓶颈观点,我们将表示分解为残差子空间S\mathcal{S}和因子特定子空间T1,,TK\mathcal{T}_1,\ldots,\mathcal{T}_K以及残差子空间S\mathcal{S}。每个目标因子通过对比监督编码于其分配的Ti\mathcal{T}_i中:InfoNCE损失将共享相同因子值的latents拉近,并推远不匹配的配对。并行地,KL正则化对S\mathcal{S}和聚合因子子空间施加高斯结构,在无需额外监督的情况下组织几何,避免对抗训练和分类器。在多个数据集上,\textsc{XFactors}在保持常数超参数的情况下实现了state-of-the-art解耦评分,并在相应子空间中实现一致的定性因子对齐,使通过latent替换实现受控因子交换。我们进一步展示了该方法随着隐层容量的增加而正确扩展,并在真实世界数据集CelebA上进行评估。我们的代码可在\href{https://github.com/ICML26-anon/XFactors}{github.com/ICML26-anon/XFactors}获取。

关键词

引用

@article{arxiv.2601.21688,
  title  = {XFACTORS: Disentangled Information Bottleneck via Contrastive Supervision},
  author = {Alexandre Myara and Nicolas Bourriez and Thomas Boyer and Thomas Lemercier and Ihab Bendidi and Auguste Genovesio},
  journal= {arXiv preprint arXiv:2601.21688},
  year   = {2026}
}