中文

LAST:JAX 中可扩展的基于格点的语音建模

计算与语言 2023-04-27 v1

摘要

我们介绍 LAST,一个 JAX 中的基于 LAttice 的语音转导器(Speech Transducer)库。LAST 注重灵活性、易用性和可扩展性,实现了训练和推理所需的可微加权有限状态自动机(WFSA)算法,这些算法可扩展到大型 WFSA,例如整个话语上的识别格点。尽管这些 WFSA 算法在文献中已广为人知,但现代架构的性能特征以及自动微分中的细微之处带来了新的挑战。我们描述了 LAST 中采用的一套普遍适用的技术来应对这些挑战,并通过在 TPUv3 和 V100 GPU 上的基准测试展示了其有效性。

关键词

引用

@article{arxiv.2304.13134,
  title  = {LAST: Scalable Lattice-Based Speech Modelling in JAX},
  author = {Ke Wu and Ehsan Variani and Tom Bagby and Michael Riley},
  journal= {arXiv preprint arXiv:2304.13134},
  year   = {2023}
}