使用非平衡图谱的状态表征学习
机器学习
2024-06-25 v3
摘要
流形假设认为高维数据通常位于低维流形上，并且利用该流形作为目标空间可以产生更高效的表征。尽管存在许多用于降维的传统流形技术，但它们在自监督学习中的应用进展缓慢。最近的 MSimCLR 方法将流形编码与 SimCLR 相结合，但需要极低的目标编码维度才能优于 SimCLR，这限制了其适用性。本文引入了一种使用非平衡图谱 (UA) 的新型学习范式，能够超越最先进的自监督学习方法。我们通过调整 Spatiotemporal DeepInfomax (ST-DIM) 框架以符合我们提出的 UA 范式，研究并设计了带有非平衡图谱的 DeepInfomax (DIM-UA) 方法。通过在 Atari Annotated RAM Interface (AtariARI) 基准上进行训练和评估，证明了 DIM-UA 的有效性，该基准是 Atari 2600 框架的修改版本，可生成用于表征学习的带标注图像样本。随着目标编码维度数量的增加，UA 范式显著改进了现有算法。例如，当使用 16384 个隐藏单元时，DIM-UA 按类别平均的平均 F1 分数约为 75%，而 ST-DIM 约为 70%。
引用
@article{arxiv.2305.10267,
title = {State Representation Learning Using an Unbalanced Atlas},
author = {Li Meng and Morten Goodwin and Anis Yazidi and Paal Engelstad},
journal= {arXiv preprint arXiv:2305.10267},
year = {2024}
}