用于概率有限自动机的符号前馈网络：精确模拟与可学习性

我们提出了一种形式化和构造性的理论，表明概率有限自动机（PFA）可以使用符号前馈神经网络进行精确模拟。我们的架构将状态分布表示为向量，将转移表示为随机矩阵，从而通过矩阵-向量乘积实现概率状态传播。这产生了一种并行、可解释且可微的 PFA 动态模拟，使用软更新——无需循环。我们形式化地描述了概率子集构造、ε-闭包以及通过分层符号计算进行的精确模拟，并证明了 PFA 与特定类别神经网络之间的等价性。我们进一步证明，这些符号模拟器不仅具有表达能力，而且是可学习的：使用基于标准梯度下降的优化方法在带标签的序列数据上进行训练，它们能够恢复出地面真值 PFA 的精确行为。这种可学习性，在命题 5.1 中得到形式化，是这项工作的关键。我们的结果在严格的代数框架下统一了概率自动机理论与神经架构，弥合了符号计算与深度学习之间的鸿沟。