分析声学词嵌入的表征几何
计算与语言
2023-01-10 v1
摘要
声学词嵌入（AWEs）是一种向量表示，使得同一词的不同声学样本在嵌入空间中投影到相近位置。除了用于语音技术应用中（如口语词发现和关键词 spotting），AWE 模型已在若干认知动机研究中被采用为口语词处理的模型，并已在部分听觉处理任务中展现出类人表现。然而，AWEs 的表征几何仍是文献中未被充分探讨的话题。本文对从英语语音中学得的 AWEs 进行更细致的分析考察，研究学习目标与架构的选择如何塑造其表征轮廓。为此，我们在三项不同分析中采用机器学习与神经科学的一组分析技术：嵌入空间均匀性、词可判别性与表征一致性。我们的主要发现凸显了相较于模型架构，学习目标在塑造表征轮廓上的突出作用。
引用
@article{arxiv.2301.03012,
title = {Analyzing the Representational Geometry of Acoustic Word Embeddings},
author = {Badr M. Abdullah and Dietrich Klakow},
journal= {arXiv preprint arXiv:2301.03012},
year = {2023}
}
备注
In BlackboxNLP workshop, EMNLP 2022 [ oral presentation ]