神经算子是否遗忘几何？深度算子学习中的几何遗忘假设
机器学习
2026-05-08 v1
摘要
神经算子在结构化域上表现良好，但其在不规则几何上的行为仍不为人所理解。我们显示，这一限制不仅仅是编码问题，而是深层算子架构固有的深度学习失效模式。我们形式化了几何遗忘假设：由于算子层的马尔可夫结构及其对全局混合机制的依赖，神经算子随深度增加逐渐丢失对域几何的访问权限。通过层级几何探针，我们展示，无论是谱方法还是注意力方法的算子都系统性地丢失几何保真度。我们表明，这种几何遗忘会损害准确性、稳定性和泛化能力。为抵消它，我们引入一种轻量级几何记忆注入机制，在中间深度处恢复几何约束，所需的架构开销最小。这种简单的干预始终缓解了遗忘，揭示了基于变压器的算子中存在几何捷径不稳定性，表明几何保留是结构性要求而非设计选择。
引用
@article{arxiv.2605.05862,
title = {Do Neural Operators Forget Geometry? The Forgetting Hypothesis in Deep Operator Learning},
author = {Yanming Xia and Angelica I. Aviles-Rivero},
journal= {arXiv preprint arXiv:2605.05862},
year = {2026}
}