增强航空通信转录：基于LoRA微调Distil-Whisper

航空通信转录在 several applications 中发挥着重要作用，从帮助空中交通管控员识别读回错误的准确性到搜救行动中提供宝贵的情报。近期人工智能的进展为改进航空通信转录任务提供了前所未有的机遇。OpenAI的Whisper是领先的自动语音识别模型之一。然而，为航空通信转录微调Whisper在计算效率方面并不理想。因此，本文旨在使用一种称为Low-Rank Adaptation的参数高效微调方法来微调更计算高效的Whisper版本，distil-Whisper。为进行微调，我们使用了来自语言数据联盟（Linguistic Data Consortium）的Air Traffic Control语料库，该语料库包含约70小时来自美国三大机场附近的控制员和飞行员传输。目标是降低词错误率，以提高航空通信转录的准确性。首先，我们以初始的一组LoRA超参数（Alpha = 64，Rank = 32）进行网格搜索。我们应用了5折交叉验证，以找到distil-Whisper最佳参数组合。随后，我们对LoRA超参数进行微调，实现了在五个折叠上的平均词错误率为3.86%。这一结果突显了该模型在机舱内的潜力。