智能体元认知：设计用于故障预测与人工交接的"自感知"低代码智能体

自主智能体固有的非确定性，特别是在低代码/无代码（LCNC）环境中，带来了显著的可靠性挑战。智能体可能陷入不可预见的循环、产生不准确的输出或遇到不可恢复的故障，导致用户挫败感和信任崩溃。本报告提出了一种新的架构模式来解决这些问题：集成一个次级的"元认知"层，主动监控主 LCNC 智能体。借鉴人类内省，该层旨在根据一组触发条件（如过度延迟或重复动作）预测即将发生的任务故障。预测到故障后，元认知智能体主动发起人工交接，向用户提供智能体"思维过程"的清晰摘要以及其无法继续的详细解释。对原型系统的实证分析表明，该方法显著提高了整体任务成功率。然而，这一性能提升伴随着显著的计算开销增加。研究结果将人工交接重新定义为不仅是一种认输，而是一种增强系统韧性、改善用户体验并通过透明化智能体内部状态来建立信任的核心设计特性。报告讨论了该方法的实际和伦理影响，并确定了未来研究的关键方向。