变分语言模型中的智能体控制

我们研究变分语言模型是否能够支持一种基于其自身内部证据的、最小且可测量的智能体控制形式。我们的模型结合了局部变分隐式计算、一个稳态潜在调节器、结构感知的检查点保留以及一个运行在保留模型之上的、经过校准的不确定性感知控制器。我们不将不确定性视为预测后测量的被动诊断指标，而是将其视为一种可操作信号，用于调节训练、支持检查点保留并指导推理时的干预。由此产生的框架具有明确的聚焦性。它研究了一种闭环形式的内部控制，其中结构性和预测性信号变得可操作。实验上，变分主干在语言建模任务上优于匹配的确定性参考模型，同时展现出更丰富且更可用的不确定性分布。在此主干之上，经过校准的控制器保持活跃，在完整的智能体评估下使用多种动作，并产生正向的质量-成本权衡。这些结果支持一个精确的论断：内部不确定性不仅可以作为变分语言模型的一个描述性属性，还可以作为用于调节、检查点保留和最小智能体路由的实用控制接口。