面向仪器实验室的意图匹配下的 LLM 路由与政策管控

工程实验室中的 AI 辅导系统面临在提供足够帮助与保持学习机会之间存在张力。现有系统通常使教师对帮助的时机、内容或成本拥有有限的控制。本文描述了一个用于 LLM 基于实验室帮助的路由和治理系统，包含两个组件：Routiium，一个与 OpenAI 兼容的网关，管理多个 LLM 后端，支持可配置的提示修改和使用日志；以及 EduRouter，一个具有政策意识的路由服务，强制执行每个实验室的预算、批准工作流程和基于嵌入的 question 匹配。我们使用从两个工程实验室（LED 表征、RC 电路分析）校准的 trace-driven 模拟和 100 条查询的现场模型回放进行评估。在模拟中，受管控政策（P1/P2）相对于无政策操作（P0）将挑战-对齐指数从 0.90 提升到 0.98，将叠加-遵循得分从 0.69 提升到 0.87。生产-挣扎窗口指标从 1.4 增至 3.6 模拟回合后，高支架提示才会出现。在 100 条查询回放中，EduRouter 将 75% 的查询路由到本地模型，通过减少 token 成本将成本降低 66%（$0.087 vs.$0.26 用于全 premium 路由），同时保持针对精选 89 项意图 question 银行的标准命中率为 1.0。我们发布 Routiium、EduRouter、标准任务工具以及模拟器配置，以支持复制和未来的课堂研究。