大规模创建阿拉伯语 LLM 提示
计算与语言
2024-08-13 v1
摘要
ChatGPT 和 BARD 的问世推动了使用 LLM 进行指令跟随文本生成的流行，用户可通过自然语言请求询问 LLM 并获取符合其请求的自然语言答案。训练 LLM 以此类响应需要大量带有用户请求（即提示）及对应金标准响应的示例。本文介绍两种为阿拉伯语创建此类提示的低成本快速方法。第一种方法涉及自动翻译现有英文提示数据集（如 PromptSource 和 Super-NaturalInstructions），随后使用机器翻译质量评估仅保留高质量翻译。第二种方法是在现有阿拉伯语 NLP 数据集上构建自然语言提示。通过这两种方法，我们成功创建了超过 6740 万条涵盖摘要生成、标题生成、语法检查、问答（开放/封闭）、创意写作等多种任务的阿拉伯语提示。我们展示了对开源 70 亿参数大型语言模型（即 base Qwen2 7B）进行微调后，能在处理阿拉伯语提示方面优于基于 70 亿参数指令调优模型（即 Llama3 70B）。
引用
@article{arxiv.2408.05882,
title = {Creating Arabic LLM Prompts at Scale},
author = {Abdelrahman El-Sheikh and Ahmed Elmogtaba and Kareem Darwish and Muhammad Elmallah and Ashraf Elneima and Hassan Sawaf},
journal= {arXiv preprint arXiv:2408.05882},
year = {2024}
}