Parallax：通过代数公式可视化并理解嵌入空间的语义
计算与语言
2019-05-30 v1 机器学习
摘要
嵌入是许多现代机器学习与自然语言处理模型的基本组成部分。理解并可视化它们对于获取其所捕获信息及模型行为的洞察至关重要。分析嵌入的最先进方法是将它们投影到二维平面，而投影轴无任何可解释的语义，这使得对多组嵌入的详细分析与比较颇具挑战。在本工作中，我们提出使用定义为嵌入上代数公式的显式轴，将其投影到更低维但具语义意义的子空间，作为一种简单而有效的分析与可视化方法。该方法为可变性的度量和可视化的轴赋予了可解释的语义，既支持不同嵌入集之间的比较，也支持对嵌入空间的细粒度检视。我们通过一系列围绕该基础方法构建可视化的案例研究以及一项用户研究，展示了所提方法的威力。结果表明，该方法相较于经典投影方法能更有效地提供更深层的洞察，且广泛适用于许多其他用例。
引用
@article{arxiv.1905.12099,
title = {Parallax: Visualizing and Understanding the Semantics of Embedding Spaces via Algebraic Formulae},
author = {Piero Molino and Yang Wang and Jiawei Zhang},
journal= {arXiv preprint arXiv:1905.12099},
year = {2019}
}