通过 Babylon 实现 NLU 变革：面向自动 drive-thru 点餐的实时、边缘高效、多意图翻译系统案例研究

实时对话式AI代理在执行自然语言理解(NLU)时面临挑战，尤其是在像自动drive-thru系统这样的动态户外环境。这些设置要求NLU模型在严格的延迟和内存约束的边缘设备上处理背景噪声、多样化语音和多意图查询，同时要具备对来自上游自动语音识别(ASR)错误的鲁健性，因为这些环境中的ASR输出常常噪声较大。我们引入Babylon，一种基于Transformer的架构，将NLU问题表述为意图翻译任务，将自然语言输入转换为包含意图和槽信息的常规语言单元序列(‘transcodes')。这种表述使Babylon能够在单个对话轮中处理多意图场景。此外，Babylon采用基于LSTM的标记池化机制对音素序列进行预处理，缩短输入长度，优化低延迟、低内存边缘部署。这也有助于缓解ASR输出不准确的问题，增强系统鲁健性。虽然本工作聚焦于drive-thru点餐，但Babylon的设计也适用于类似噪声较大的场景，例如售票亭。我们的实验表明，Babylon在准确率、延迟和内存占用之间的trade-off显著优于通常使用的NMT模型，如Flan-T5和BART，展示了其在边缘部署设置中实现实时NLU的有效性。