小型语言模型在应用交互中的效能:案例研究
计算与语言
2024-06-03 v1 人工智能
机器学习
摘要
我们研究小型语言模型(Small Language Models, SLMs)在通过自然语言交互促进应用使用方面的效能。我们的研究重点放在微软用于云供应链履行的特定内部应用上。我们的实验表明,小型模型在准确率和运行时间方面均优于规模更大的模型,即使在仅使用小数据集进行微调的情况下亦然。除此之外,我们还突出了基于SLM的系统设计考量。
引用
@article{arxiv.2405.20347,
title = {Small Language Models for Application Interactions: A Case Study},
author = {Beibin Li and Yi Zhang and Sébastien Bubeck and Jeevan Pathuri and Ishai Menache},
journal= {arXiv preprint arXiv:2405.20347},
year = {2024}
}