可解释AI中的透明度悖论：一种通过认知负荷导致自主性耗竭的理论

目的：本文构建了一个理论框架，用以解释AI解释何时以及为何会增强或损害人类决策。背景：透明度被普遍认为对人机交互有益，然而相同的AI解释在某些情境下能提高决策质量，在其他情境下却会损害决策质量。当前的理论——信任校准、认知负荷和自我决定论——无法完全解释这一悖论。方法：该框架将自主性建模为一个受信息诱导的认知负荷影响的连续随机过程。利用随机控制理论，自主性的演化被形式化为具有信息依赖漂移项的几何布朗运动，并通过Hamilton-Jacobi-Bellman方程推导出最优透明度。蒙特卡洛模拟验证了理论预测。结果：数学分析产生了五个关于脱离时机、工作记忆调节、自主性轨迹形状和最优信息水平的可检验预测。计算解表明，动态透明度策略通过适应实时认知状态，优于最大和最小透明度策略。最优策略展现出阈值结构：当自主性高且累积负荷低时提供信息；当资源耗尽时则保留信息。结论：透明度效应取决于动态的认知资源耗竭，而非静态的设计选择。信息提供触发了元认知处理，当认知负荷超过工作记忆容量时，会降低感知控制感。应用：该框架为自适应AI系统提供了设计原则：根据实时认知状态调整透明度，实施尊重容量限制的信息预算，并根据个体工作记忆容量个性化设置阈值。