SlicerChat：为 3D Slicer 构建本地聊天机器人

3D Slicer 是一个强大的 3D 数据可视化和分析平台，但对新用户而言学习曲线较陡。生成式 AI 应用，如 ChatGPT，作为一种潜在方法，正在成为弥合各种文档来源之间差距的手段。然而，LLM 服务对 3D Slicer 文档的暴露有限，这意味着 ChatGPT 和相关服务往往会出现显著的幻觉现象。本项目的目标是构建一种名为 SlicerChat 的聊天机器人架构，专为回答 3D Slicer 相关问题而优化，能够使用开源模型在本地运行。本 work 探索的核心研究问题围绕微调、模型规模以及提示中包含的域知识类型对答案质量和速度的影响。我们构建了一个基于 Code-Llama Instruct 架构的原型 SlicerChat 系统，作为 3D Slicer 的自定义扩展。对 1.1B、7B 和 13B 的模型使用低秩适配进行微调，并编译了 various sources of 3D Slicer 文档用于检索增强生成范式。测试不同微调和模型规模的组合，针对五个 3D Slicer 问题的基准数据集显示，微调对模型性能或速度没有影响，而更大的模型表现更好但速度显著下降。尝试将 3D Slicer 文档添加到提示中后显示，Python 示例代码和 Markdown 文档是最有用的信息，但将 3D Slicer 场景数据和来自 Discourse 的问题也会提高模型性能。总之，本项目表明了将高质量本地聊天机器人直接集成到 3D Slicer 中以帮助新用户和经验丰富的开发者更高效地使用软件的潜力。