美国数学学会会刊

摘要：

本文的目的是处理Brezis和Nirenberg（1983）著名论文中研究的涉及临界非线性的Laplace方程的非局部分数阶对应项。也就是说，我们的模型是方程\[left\{begin{array}{ll}（-\Delta）^su-\lambdau=|u|^{2^*-2}u&{\mbox{in}}\Omega，\\u=0&{\mbox{in{}}\mathbb{R}^n\setminus\Omeca，\end{arrary}\right.]其中$（-\Delta）^s$是分数Laplace运算符，$s\in（0,1）$，$\Omega$是开有界的$\mathbb{R}^n$的集合，$n>2s$，对于Lipschitz边界，$\lambda>0$是实参数，$2^*=2n/（n-2s）$是分数阶临界Sobolev指数。

本文首先在一般框架下研究了这个问题；实际上，我们考虑方程\[left\{begin{array}{ll}\mathcal L_Ku+\lambdau+|u|^{2^*-2}u+f（x，u）=0&\mbox{in}\Omega，\\u=0&\ mbox{in}\mathbb{R}^n\setminus\Omega，\end{arrary}\right其中$\mathcal L_K$是阶$s$的一般非局部积分微分算子，$f$是临界幂$|u|^{2^*-2}u$的低阶扰动。在这种情况下，我们通过变分技术证明了一个存在性结果。

然后，作为一个具体的例子，我们导出了模型方程的Brezis-Nirenberg型结果；也就是说，我们证明了如果$\lambda{1，s}$是具有齐次Dirichlet边界数据的非局部算子$（-\Delta）^s$的第一个特征值，那么对于（0，\lambda{1，s}）$中的任何$\lampda\都存在上述模型方程的非平凡解，前提是$\geqsleat 4s$。在这个意义上，本工作可以看作是经典Brezis-Nirenberg结果对非局部分数阶算子的推广。