与奇异和分数次Radon变换相关的Sobolev空间

本文旨在研究形如 $f\mapsto \psi(x) \int f(\gamma_t(x)) K(t)\: dt$ 的算子在 $L^p$ Sobolev 空间中的平滑性质，其中 $\gamma_t(x)$ 是定义于 $(t,x)\in\mathbb{R}^N\times \mathbb{R}^n$ 中原邻域上的 $C^\infty$ 函数，满足 $\gamma_0(x)\equiv x$，$\psi$ 是支撑在 $0\in \mathbb{R}^n$ 小邻域上的 $C^\infty$ 截断函数，$K$ 是支撑在 $0\in \mathbb{R}^N$ 小邻域上的“多参数分数次核”。当 $K$ 为 Calderón-Zygmund 核时，这些算子由 Christ、Nagel、Stein 和 Wainger 研究过；当 $K$ 为多参数奇异核时，由作者和 Stein 研究过。在这两种情形下，均给出了 $\gamma$ 的条件使得上述算子在 $L^p$ ($1<p<\infty$) 上有界。在这些相同条件下，我们引入与 $\gamma$ 相关的非各向同性 $L^p$ Sobolev 空间。此外，当 $K$ 是平滑阶接近于 $0$（即非常接近奇异核）的分数次核时，我们证明了上述算子在这些非各向同性 Sobolev 空间上的映射性质。作为推论，在 Christ、Nagel、Stein 和 Wainger 引入的 $\gamma$ 条件下，我们证明了当 $K$ 是极低阶平滑的分数次核时，上述算子在各向同性 $L^p$ Sobolev 空间中的最优平滑性质。