不定耦合非线性 Schr"odinger 系统的基态解

本文研究以下耦合非线性 Schr"odinger 系统 (P) 的基态解：$-\Delta u_1-\tau_1 u_1 =\mu_1u_1^3+\beta u_1u_2^2$，$-\Delta u_2-\tau_2 u_2 =\mu_2u_2^3+\beta u_1^2u_2$ 于 $\Omega$，$u_1=u_2=0$ 在 $\partial\Omega$，其中 $\mu_1, \mu_2>0$，$\beta>0$，且 $\Omega\subset \mathbb{R}^N (N\le3)$ 为光滑边界的有界域。我们关注的是不定情况，即 $\tau_1, \tau_2$ 大于等于 $-\Delta$ 具有 Dirichlet 边界条件的本征值。通过细致的变分论证，我们获得了系统 (P) 的基态解的存在性，也给出了耦合参数 $\beta$ 在某些范围内的临界能量水平的信息。