信念的动力学：对复杂系统的持续监控与可视化

AI 在人类语境中的兴起对自动化系统提出了透明且可解释的新要求。我们考察若干与人类问责制相关的拟人化思想与原则，以发展一个用于思考复杂人类语境中数字系统及其行为解释问题的理论框架。在结构上，系统由模块化与层次化组件构成，我们在一种新的系统模型中用模式(mode)与模式转移的概念对其抽象。模式是系统的一个独立组件，拥有自身目标、监控数据与算法。模式的行为，包括其向其他模式的转移，由函数决定，这些函数依据其目标与算法解释各模式的监控数据。我们展示这些信念函数如何通过将其求值可视化为高维几何空间中的轨迹来帮助解释系统行为。这些思想由抽象与具体单纯复形在数学上形式化。我们提供三种技术：设计启发式框架、基于模式的通用系统理论以及几何可视化，并将它们应用于三类以人为中心的系统。