嵌入的对齐与稳定性：度量与推断改进
机器学习
2021-01-19 v1 社会与信息网络
摘要
表示学习（RL）方法学习对象的潜在嵌入，其中信息由距离保持。由于距离对某些线性变换具有不变性，人们可以在保持相同信息的同时获得不同的嵌入。在动态系统中，嵌入的时间差异可能由系统的稳定性或由于任意变换导致的嵌入错位来解释。在文献中，嵌入对齐尚未被正式定义、理论探讨或实证分析。在此，我们探索嵌入对齐及其组成部分，提供首个形式化定义，提出度量对齐与稳定性的新指标，并通过合成实验展示其适用性。真实世界实验表明，静态和动态RL方法都容易产生错位的嵌入，且这种错位会恶化动态网络推断任务的性能。通过确保对齐，静态RL方法的预测准确率提升高达90%，动态RL方法提升40%。
引用
@article{arxiv.2101.07251,
title = {Alignment and stability of embeddings: measurement and inference improvement},
author = {Furkan Gürsoy and Mounir Haddad and Cécile Bothorel},
journal= {arXiv preprint arXiv:2101.07251},
year = {2021}
}