开源与专有大语言模型在机器阅读理解中的比较:面向工业应用的实用分析
计算与语言
2024-12-10 v2
摘要
大语言模型(LLM)最近在各种自然语言处理(NLP)应用中展现出惊人的性能,如情感分析、内容生成和个性化推荐。尽管具有这些突出能力,但仍需系统性地研究大语言模型在工业环境中的实际应用,以及其在这些环境中部署所特有的需求和挑战。这种需求尤其关键,因为机器阅读理解(MCR)需要提供事实准确、简洁且精确的响应。迄今为止,大多数 MCR 依赖小型语言模型(SLM)或循环神经网络(RNN)如长短期记忆网络(LSTM)。这一趋势在 Papers with Code 表格上的 SQuAD2.0 排名中清晰可见。本文presents 对开源大语言模型与专有模型在该任务上的比较分析,旨在识别提供相当于专有模型性能的轻量级和开源替代方案。
引用
@article{arxiv.2406.13713,
title = {Comparison of Open-Source and Proprietary LLMs for Machine Reading Comprehension: A Practical Analysis for Industrial Applications},
author = {Mahaman Sanoussi Yahaya Alassan and Jessica López Espejel and Merieme Bouhandi and Walid Dahhane and El Hassane Ettifouri},
journal= {arXiv preprint arXiv:2406.13713},
year = {2024}
}
备注
Preprint submitted to Natural Language Processing Journal