非局部椭圆方程组极值解的正则性

我们研究非线性非局部特征值问题 \begin{eqnarray} \left\{ \begin{array}{lcl} \hfill \mathcal L u &=& \lambda F(u,v) \qquad \text{in} \ \ \Omega, \\ \hfill \mathcal L v &=& \gamma G(u,v) \qquad \text{in} \ \ \Omega, \\ \hfill u,v &=&0 \qquad \qquad \text{on} \ \ \mathbb R^n\setminus\Omega , \end{array}\right. \end{eqnarray} 的极值解的正则性，其中非局部算子包含分数阶 Laplacian，形式为 \begin{equation*}\label{} \mathcal L(u (x))= \lim_{\epsilon\to 0} \int_{\mathbb R^n\setminus B_\epsilon(x) } [u(x) - u(z)] J(z-x) dz , \end{equation*} 且 $J$ 为非负可测偶跳跃核。特别地，我们考虑形式为 $J(y)=\frac{a(y/|y|)}{|y|^{n+2s}}$ 的跳跃核，其中 $s\in (0,1)$，$a$ 是 $L^1(\mathbb {S}^{n-1})$ 中任意满足椭圆性假设的非负偶可测函数。我们首先针对一般非线性和一般核建立上述系统极小解的稳定性不等式。然后，对于 Gelfand 和 Lane-Emden 系统（当 $p>1$ 时分别带正负指数），我们证明极值解在维数 $n < 10s$ 以及 $n<2s+\frac{4s}{p\mp 1}[p+\sqrt{p(p\mp1)}]$ 时的正则性。当 $s\to 1$ 时，这些维数是最优的。然而，对于 $s\in(0,1)$ 的情形，得到最优维数仍是一个开放问题。此外，对于一般非线性，我们考虑梯度系统，并建立了极值解在维数 $n<4s$ 时的正则性。据我们所知，这是关于非局部方程组极值解的第一个正则性结果。