Typhoon T1：开源泰语推理模型

本文介绍Typhoon T1，这是一个开源泰语推理模型的开发项目。推理模型是一种在大型语言模型（LLM）之上构建的相对新型生成模型。推理模型会在得出最终答案前生成长链式思考，这一方法被证明可提高复杂任务上的性能。然而，关于developing此类模型的细节有限，尤其是针对能生成低资源语言中推理痕迹的推理模型。Typhoon T1提出了一个开源项目，旨在通过利用开放数据集进行监督式微调，而非强化学习，以更具成本效益的方式开发推理模型。本文分享了关于合成数据生成与训练、数据集以及模型权重的细节。此外，我们提供了在低资源语言中开发能够跨域泛化并生成推理痕迹的推理模型的见解，泰语作为示例。我们希望这个开源项目为该领域的进一步研究提供基础。