旅行领域中的大语言模型：一项工业实践经验

在线房产预订平台被广泛使用，且严重依赖于关于住宿设施的一致且最新的信息，这些信息通常来自第三方提供商。然而，这些外部数据源经常受到细节不完整或不一致的影响，这可能会使用户感到沮丧并导致市场份额流失。为了应对这些挑战，我们提出了一个工业案例研究，涉及将大语言模型集成到由FERVENTO开发的房产预订平台CALEIDOHOTELS中。我们在这种背景下评估了两个知名的LLM：使用QLoRA微调的Mistral 7B，以及使用改进的系统提示词的Mixtral 8x7B。这两个模型均基于其生成一致且同质化描述的能力，以及在最小化幻觉方面的表现进行了评估。Mixtral 8x7B在完整性（99.6% vs. 93%）、精确度（98.8% vs. 96%）和幻觉率（1.2% vs. 4%）方面优于Mistral 7B，生成的内容更短但更简洁（平均249词 vs. 277词）。然而，这是以显著更高的计算成本为代价的：50GB VRAM和$1.61/小时，而Mistral 7B为5GB和$0.16/小时。我们的研究结果为模型质量与资源效率之间的权衡提供了实践见解，为在生产环境中部署LLM提供了指导，并证明了其在增强住宿数据一致性和可靠性方面的有效性。