对比学习与属性关联的涌现
计算机视觉与模式识别
2024-10-01 v5 机器学习
神经与进化计算
摘要
针对物体呈现,监督学习方案通常给出一个简洁的标签作为响应。面对类似呈现,人类同样给出标签,此外还会涌现实量的关联,其中很大一部分由所呈现物体的属性构成。对比学习是一种半监督学习方案,基于对物体输入表示施加保持同一性的变换。本文推测,这些所施加的变换除了保持呈现物体的同一性外,还保持其语义有意义属性的同一性。其推论是,此类对比学习方案的输出表示不仅包含用于呈现物体分类的宝贵信息,也包含用于判定任何关注属性存在与否的宝贵信息。本文给出了证明该想法及此推测可行性的仿真结果。
引用
@article{arxiv.2302.10763,
title = {Contrastive Learning and the Emergence of Attributes Associations},
author = {Daniel N. Nissani},
journal= {arXiv preprint arXiv:2302.10763},
year = {2024}
}
备注
10 pages