具临界指数的耦合 Schrödinger 方程的正最小能量解与相分离：高维情形

我们研究以下与 Bose-Einstein 凝聚相关的非线性 Schrödinger 方程组：{displaymath} {cases}-\Delta u +\la_1 u = \mu_1 u^{2^\ast-1}+\beta u^{\frac{2^\ast}{2}-1}v^{\frac{2^\ast}{2}}, \quad x\in \Omega, -\Delta v +\la_2 v =\mu_2 v^{2^\ast-1}+\beta v^{\frac{2^\ast}{2}-1} u^{\frac{2^\ast}{2}}, \quad x\in \om, u\ge 0, v\ge 0 \,\,\hbox{in $\om$},\quad u=v=0 \,\,\hbox{on $\partial\om$}.{cases}{displaymath} 其中 $\om\subset \R^N$ 是光滑有界区域，$2^\ast:=\frac{2N}{N-2}$ 是 Sobolev 临界指数，$-\la_1(\om)<\la_1,\la_2<0$，$\mu_1,\mu_2>0$ 且 $\beta\neq 0$，这里 $\lambda_1(\om)$ 是具 Dirichlet 边界条件的 $-\Delta$ 的第一特征值。当 $\bb=0$ 时，这就是著名的 Brezis-Nirenberg 问题。作者曾在 (Arch. Ration. Mech. Anal. 205: 515-551, 2012) 中研究了特例 N=4。在本文中，我们考虑{\it 高维情形 $N\ge 5$}。有趣的是，我们可以证明{\it 对于任意 $\beta\neq 0$} 存在正最小能量解 $(u_\bb, v_\bb)$（这在特例 N=4 中是不成立的）。我们还研究了当 $\beta\to -\infty$ 时 $(u_\bb, v_\bb)$ 的极限行为，并预期会出现相分离。特别地，只要 $N\ge 6$，$u_\bb-v_\bb$ 将收敛到 Brezis-Nirenberg 问题的{\it 变号解}。在 $\la_1=\la_2$ 的情况下，我们还研究了最小能量解的分类。结果表明，与特例 N=4 相比，出现了一些截然不同的现象。