中文

丰富解耦:从逻辑定义到定量度量

机器学习 2024-11-01 v3 范畴论 逻辑

摘要

解耦复杂数据中的解释因子是一种有前景的通用且数据高效的表示学习方法。尽管已提出多种用于学习和评估解耦表示的定量度量,但这些度量究竟量化了哪些性质仍不清楚。本工作中,我们建立逻辑定义与定量度量之间的代数关系,以推导具有理论依据的解耦度量。具体而言,我们引入一种组合方法,通过将 (i) 等式替换为严格预度量、(ii) 二元真值的 Heyting 代数替换为连续值的 quantale、(iii) 量词替换为聚合器,将高阶谓词转换为实值量。由逻辑定义诱导的度量具有强理论保证,其中部分易于微分并可直接用作学习目标。最后,我们通过分离解耦表示的不同方面,经验性地展示了所提度量的有效性。

关键词

引用

@article{arxiv.2305.11512,
  title  = {Enriching Disentanglement: From Logical Definitions to Quantitative Metrics},
  author = {Yivan Zhang and Masashi Sugiyama},
  journal= {arXiv preprint arXiv:2305.11512},
  year   = {2024}
}

备注

Neural Information Processing Systems 2024