锥体中非线性积分算子的基本解与临界 Lane-Emden 指数

在本文中，我们研究了锥形域中某些非线性正齐次非局部椭圆问题的“基本解”或“$\alpha$-调和函数”，例如 \begin{eqnarray*}\label{ecbir1a1} {\mathcal F }(u)=0\ \ \hbox{in} \ \ {\mathcal{C}_\omega},\quad u=0\ \ \hbox{in} \ \ \mathbb{R}^n\setminus {\mathcal{C}_\omega },\ \ \end{eqnarray*} 其中 $\omega$ 是 $S^{N-1}$ 中一个适当的 $C^2$ 域（$N\geq 2$），$\mathcal{C}_\omega:=\{x\,:\,x\neq 0, {|x|^{-1}}x\in \omega\}$ 是与 $\omega$ 相关的锥状域，且 ${\mathcal F }$ 是一个极端的完全非线性积分算子。我们证明了在锥中不存在变号且齐次的两种基本解的存在性；一种在原点有界，另一种在无穷远处有界。作为应用，我们利用所获得的基本解证明锥中 Lane-Emden-Fowler 方程上解形式的 Liouville 型定理 \begin{eqnarray*}\label{eq 0.2} {\mathcal F }(u)+u^p = 0\ \ \hbox{in} \ \ {\mathcal{C}_\omega}, \quad u=0\ \ \hbox{in} \ \ \mathbb{R}^n\setminus {\mathcal{C}_\omega}.\ \ \end{eqnarray*} 我们还证明了带角域中的广义 Hopf 型引理。即使当 ${\mathcal F }$ 是分数阶拉普拉斯算子时，我们的大部分结果也是新的。