资源受限环境下的语言智能体：韩国化学毒性信息案例研究

由大型语言模型 (LLM) 提供动力的语言智能体在资源受限环境中面临着显著的部署挑战，尤其是针对专业领域和较少使用的语言。本文提出了 Tox-chat，一个在此类限制条件下构建的韩国化学毒性信息智能体。我们提出了两种关键创新：一种通过层次化章节搜索来减少 token 消耗的上下文高效架构，以及一种有效从更大模型中蒸馏工具使用能力的情景式对话生成方法。实验评估表明，我们的微调 8B 参数模型在 DB 忠实性和偏好方面显著优于未微调的模型和基线方法。我们的工作为研究开发受实际限制条件下的领域特定语言智能体提供了宝贵的见解。