有界域中三维重力驱动粘性流的不稳定性与稳定性

我们研究了 $C^2$ 类有界域 $\Omega$ 中由重力驱动的三维非均匀不可压缩粘性流某些稳态的不稳定性与稳定性。当稳态密度随高度增加而增大（即 Rayleigh-Taylor 稳态）时，通过构造一个（标准）能量泛函并利用修正变分法，我们证明了该稳态是线性不稳定的（即线性解在 $H^2$ 中随时间增长）。随后，通过引入一个新的能量泛函并采用细致的 bootstrap 论证，我们进一步证明了该稳态在 Hadamard 意义下是非线性不稳定的。当稳态密度随高度增加而减小时，在对稳态密度施加限制条件的帮助下，我们证明了该稳态是线性全局稳定的，且在 Hadamard 意义下是非线性局部稳定的。