酉算子的多项式作用与幂等超滤

设 $p$ 为 $\mathbb{N}$ 上的幂等超滤。对于正整数 $N$，令 ${\cal P}_{\leq N}$ 表示满足 ${\rm deg}\, P\leq N$ 且 $P(0)=0$ 的多项式 $P\in\mathbb{Z}[x]$ 构成的加法群。给定希尔伯特空间 ${\cal H}$ 上的酉算子 $U$，我们证明：对每个 $N\geq1$，存在唯一的分解 ${\cal H}=\bigoplus_{r\geq 1}{\cal H}^{(N)}_r$ 为闭的、$U$-不变子空间，使得 (a) 对任意多项式 $P\in{\cal P}_{\leq N}$，有 $$p\, \text{-}\!\lim_{n\in\mathbb{N}} \left(U|_{{\cal H}_r^{(N)}}\right)^{P(n)}=0_{{\cal H}_r^{(N)}}\;\mbox{或}\; Id_{{\cal H}_r^{(N)}},\; \mbox{对每个}\; r\geq1 ;$$ (b) 对每个 $r\neq s$，存在 $Q\in{\cal P}_{\leq N}$ 使得 $$p\,\text{-}\!\lim_{n\in\mathbb{N}} \left(U|_{{\cal H}_r^{(N)}}\right)^{Q(n)}\neq p\,\text{-}\!\lim_{n\in\mathbb{N}} \left(U|_{{\cal H}_s^{(N)}}\right)^{Q(n)}.$$ 与此结果相关联，我们引入了刚性群（rigidity group）的概念。具体而言，若存在 $\mathbb{N}$ 上的幂等超滤 $p$ 和希尔伯特空间 $\cal H$ 上的酉算子 $U$，使得子群 $G\subset {\cal P}_{\leq N}$ 满足 $$\label{ab1} G=\{P\in{\cal P}_{\leq N}:\: p\,\text{-}\!\lim_{n\in\mathbb{N}} U ^{P(n)}=Id\}$$ 且对每个 $Q\in{\cal P}_{\leq N}\setminus G$ 有 $p\,\text{-}\!\lim_{n\in\mathbb{N}} U ^{Q(n)}=0$，则称 $G$ 为 $N$-刚性群。本文的主要结果表明：满足 $\max\{{\rm deg}\, P:\:P\in G\}=N$ 的子群 $G\subset {\cal P}_{\leq N}$ 是 $N$-刚性群，当且仅当 $G$ 在 ${\cal P}_{\leq N}$ 中具有有限指数。