与自由两步幂零李群相关的 Gelfand 对的谱

设 $F(n)$ 为连通且单连通的自由两步幂零李群，$K$ 为 Aut($F(n)$) 的紧子群。当 $F(n)$ 上可积的 $K$-不变函数在卷积下构成交换代数时，称 $(K,F(n))$ 为 Gelfand 对。本文考虑 $K=O(n)$ 的情形。在 [1] 中已知 $(K,F(n))$ 的唯一可能 Gelfand 对为 $(O(n),F(n))$ 和 $(SO(n),F(n))$。因此我们仅考虑 $(O(n),F(n))$ 的情形，另一情形可类似地获得。我们在 $F(n)$ 的紧子集上一致收敛所给出的自然拓扑下研究 $\Delta (O(n),F(n))$。我们证明 $\Delta (O(n),F(n))$ 是一个完备度量空间。我们的主要结果给出了"第一类"有界 $O(n)$-球面函数序列在 $F(n)$ 的紧子集上一致收敛到"第一类"有界 $O(n)$-球面函数的充要条件。此外，"第一类"有界 $O(n)$-球面函数在 $\Delta (O(n),F(n))$ 中是稠密的。进一步，我们根据"第二类"有界 $O(n)$-球面函数定义了傅里叶变换，并给出了它的一些基本性质。