全局单射与双射神经算子

近来算子学习备受关注,其中网络从本质上无限维的视角学习函数空间之间的算子。本文给出了这些网络所学算子何时为单射和满射的结果。作为预备,我们结合有限维 ReLU 与算子学习环境下的已有工作,给出了带线性神经算子的 ReLU 层为单射的精确条件。随后我们考虑激活函数为逐点双射的情形,并得到了该层为单射的充分条件。我们注意到,该问题在有限秩情形下是平凡的,但在无限秩情形下更为微妙,并借助 Fredholm 理论中的工具予以证明。接着,我们证明所给出的单射神经算子是通用逼近器,且其以有限秩神经网络实现时仍保持单射。这确保了从解析算子到以网络实现的有限秩算子的转写过程中单射性不会“丢失”。最后,我们将抽象程度提升,考虑当子网络(可能多层深)为单射和满射的一般条件,并给出基于“线性化”的精确反演。该部分运用 Fredholm 理论及针对非线性积分方程的 Leray-Schauder 度理论的一般性论证,分析函数空间中神经算子的映射性质。在自然条件下,这些结果适用于由本文所考虑的各层构成的子网络。我们认为,我们的工作可应用于贝叶斯 UQ(不确定性量化),其中单射性使得似然估计成为可能;并可用于反问题,其中满射与单射分别对应于解的存在性与唯一性。