Yes-MT团队对WMT 2024低资源印度语言翻译共享任务的提交

本文展示了Yes-MT团队针对WMT 2024低资源印度语言翻译共享任务（Pakray等人，2024年）提交的系统，重点关注英语与阿萨姆语、米佐语、卡西语和曼尼普尔语之间的翻译。实验探索了多种方法，包括在多语言和单语言设置下对预训练模型mT5（Xue等人，2020年）和IndicBart（Dabre等人，2021年）进行微调，使用LoRA（Hu等人，2021年）对IndicTrans2（Gala等人，2023年）进行微调，使用大语言模型（LLMs）如Llama 3（Dubey等人，2024年）和Mixtral 8x7b（Jiang等人，2024年）进行零样本和少样本提示（Brown，2020年），对Llama 3（Mecklenburg等人，2024年）进行LoRA监督微调，以及从头训练Transformer模型（Vaswani，2017年）。结果使用SacreBLEU（Post，2018年）和CHRF（Popovic，2015年）在WMT23低资源印度语言翻译共享任务测试数据上进行评估，突出了低资源翻译面临的挑战以及LLM在这些任务中的潜力，特别是通过微调。