基于卡尔曼启发的混合推理系统运行时稳定性与恢复

将学习组件与基于模型的推断相结合的混合推理系统日益在工具增强决策循环中部署，但在部分可见性和持续证据不匹配的情况下的运行时行为仍不为人所熟悉。实际情况下，故障往往以内部推理动力学的渐进性发散，而非孤立的预测错误方式出现。本工作从卡尔曼启发的角度研究混合推理系统的运行时稳定性。我们将推理建模为由内部创新信号驱动的随机推断过程，并引入认知漂移作为可测量的运行时现象。稳定性以可检测性、有界发散和可恢复性为标准，而非任务级别的正确性。我们提出了运行时稳定性框架，用于监控创新统计信息、检测新出现的不稳定性并触发感知恢复的控制机制。多步骤、工具增强推理任务的实验表明，稳定性检测在任务失败前可靠地被检测到，并且在可行的情况下，恢复能够在有限时间内重新建立有界的内部行为。这些结果强调了在不确定性下可靠推理的系统级要求是运行时稳定性。