Sobolev spaces and boundary-value problems for the curl and gradient-of-divergence operators

Full Text

\centerline{\textbf{1. Основные подпространства $\bf \mathbf{L}_{2}(\boldsymbol G)$}} % результаты \smallskip \Section[n]{1.1. Шкала пространств Соболева} Рассматриваются линейные пространства над полем $\mathbb{C}$ комплексных чисел. Через $\mathbf{L}_{2}(G)$ обозначаем пространство Лебега вектор-функций (полей), квадратично интегрируемых в $G$ с внутренним произведением $(\boldsymbol{u},\boldsymbol{v})= \int_G \boldsymbol{u}\cdot\overline{\boldsymbol{v}} \, d \boldsymbol{x}$ и~нормой $\|\boldsymbol{u}\| = (\boldsymbol{u},\boldsymbol{u})^{1/2}$. Пространство Соболева, состоящее из полей, принадлежащих $\mathbf{L}_{2}(G)$ вместе с обобщенными производными до порядка $ s> 0$, обозначается через $\mathbf{H}^{s}(G)$, $\|\boldsymbol{f}\|_s$ --- норма его элемента $\boldsymbol{f}$; $\mathbf{H}^{0}(G)\equiv\mathbf{L}_{2}(G)$. Замыкание в~$\mathbf{H}^{s}(G)$ множества $\mathcal{C}^{\infty}_0(G)$ обозначается через $\mathbf{H}^{s}_0(G)$. Пространство Соболева отрицательного порядка $\mathbf{H}^{-s}(G)$ двойственно к~$\mathbf{H}^{s}_0(G)$ (см. пространство $W_2^{(m)}(\Omega)$ у С.~Л.~Соболева [1, § 9 гл. 12] и $H^k(Q)$ у В.~П.~Михайлова [2, § 4 гл. 3]). В области $G$ с гладкой границей $\Gamma$ в каждой точке $y\in\Gamma$ определена нормаль $\boldsymbol{n}(y)$ к $\Gamma$. Поле $\boldsymbol{u}$ из $\mathbf{H}^{s+1}(G)$ имеет след $ \gamma(\boldsymbol{n}\cdot\boldsymbol{u})$ на $\Gamma$ его нормальной компоненты, который принадлежит пространству Соболева--~Слободецкого $\mathbf{H}^{s+1/2}(G)$, $|\gamma(\boldsymbol{n}\cdot\boldsymbol{u})|_{s+1/2}$ --- его норма. \smallskip \Section[n]{1.2. Разложение $\bf \mathbf{L}_{2}(\boldsymbol G)$ на два класса $\mathcal{A}$ и~$\mathcal{B}$ потенциальных и~соленоидальных полей} Пусть $h$ --- функция из ${H}^{1}(G)$, а $\boldsymbol{u}=\nabla h$ --- ее градиент. Обозначим ${\mathcal{{A}}}(G) =\{\nabla h, h\in H^1(G)\}$ --- подпространство в~$\mathbf{L}_{2}(G)$, а~через ${\mathcal{{B}}}(G)$ --- его ортогональное дополнение. Соотношения $(\boldsymbol{u},\nabla h)=0$ для любой $ h\in H^1(G)$ означают, что $\mathcal{B}(G)=\{\boldsymbol{u}\in\mathbf{L}_{2} (G): \mathop{\rm div} \boldsymbol{u}=0, \,\gamma(\boldsymbol{n}\cdot \boldsymbol{u})=0 \}.$ Итак, \footnotetext{$^1$ Это разложение взято из статьи Z.~Yoshida и Y.~Giga [9]. Авторы называют его разложением Вейля [3], а~${\mathcal{{B}}}(\Omega)$ обозначают как ${L}_{\sigma}^2(\Omega)$.} \begin{equation} \mathbf{L}_{2}(G)= {\mathcal{{A}}}(G)\oplus{\mathcal{{B}}}(G).^{1} \label{eqno:(1.1)} \end{equation} {\small\sc Замечание.} { \small В разложении Г.~Вейля ${L}_2(G)\equiv\mathfrak{F}_0= \mathfrak{G}+\mathfrak{F}'$, где $\mathfrak{G}$ есть замыкание в норме ${L}_2$ градиентов $\nabla\psi$ функций $\psi\in \mathcal{C}_0^1(G)$, а $\mathfrak{F}'$ --- множество соленоидальных элементов в~$\mathfrak{F}_0$ [3, Теорема~II]. \smallskip Если граница области $G$ имеет положительный род $\rho$, то $ \mathcal{B}$ содержит в~себе конечномерное подпространство \begin{equation*} \mathcal{B}_H=\{\boldsymbol{u}\in\mathbf{L}_{2} (G): \mathop{\rm rot} \boldsymbol{u}=0, \,\mathop{\rm div} \boldsymbol{u}=0, \,\gamma(\boldsymbol{n}\cdot \boldsymbol{u})=0 \}. \end{equation*} Его размерность равна $\rho$ [4], а базисные поля $\mathbf{h}_j\in \mathcal{C}^\infty(G)$ [3]. Ортогональное дополнение в $\mathcal{B}$ к~$\mathcal{B}_H$ назовем классом вихревых полей и~обозначим $\textbf{V}^{0} (G)$. Значит, \footnotetext{$^2$ В [9] ${L}_{\sigma}^2(\Omega)={L}_{\Sigma}^2(\Omega)\oplus{L}_{H}^2(\Omega)$. Символ $L$ перегружен. Автор изменил авторские обозначения пространств ${L}_{\Sigma}^2(\Omega)$ и ${L}_{H}^2(\Omega)$ на $\textbf{V}^{0} (\Omega)$ и $\mathcal{B}_{H} (\Omega)$. } \begin{equation} \mathcal{B}(G)=\mathcal{B}_{H} (G)\oplus \textbf{V}^{0} (G).^2 \label{eqno:(1.2)} \end{equation} По определению $\mathcal{A}_{\gamma} = \{\nabla h, h\in H^2(G), \gamma(\boldsymbol{n}\cdot {\nabla}) h=0 \}.$ \smallskip {\small\sc Замечание.} { \small С.~Л.~Соболев [5], О.~А.~Ладыженская [6], K.~Friedrichs [7], Э.~Быховский и Н.~Смирнов [8] приводят аналогичные разложения $\mathbf{L}_{2}(G)$ на ортогональные подпространства. Так, С.~Л.~Соболев предполагает, что область $\Omega$ гомеоморфна шару. В~этом случае $\rho=0$ и пространство $\mathcal{B}_H(\Omega)$ пусто. О.~А.~Ладыженская приводит разложение $\mathbf{L}_{2}(\Omega)=\mathbf{G}(\Omega)\oplus \mathbf{J}^\circ(\Omega) $, где $\mathbf{J}^\circ (\Omega) $ --- замыкание в норме $\mathbf{L}_{2}(\Omega)$ множества бесконечно дифференцируемых финитных в~$\Omega$ соленоидальных векторов, а $\mathbf{G}(\Omega)$ состоит из $\mathop{\rm grad} \varphi $, где $\varphi$ есть однозначная в $\Omega$ функция, локально квадратично суммируемая и имеющая первые производные из $\mathbf{L}_{2}(\Omega)$ [6, Теорема 1, § 2 гл. 1]. \smallskip Далее будем придерживаться разложения \eqref{eqno:(1.1)}. \smallskip \Section[n]{1.3. Операторы градиент, ротор и дивергенция} Эти операторы определяются в~трехмерном векторном анализе~[10]. Им соответствует оператор $d$ внешнего дифференцирования на формах $\omega^k$ степени $k=0$, 1 и~2. Соотношения $dd\omega^k=0$ при $k=0$,~1 имеют вид $\mathop{\rm rot} \nabla h=0$ и~$\mathop{\rm div} \mathop{\rm rot} \boldsymbol{u}=0$. Формулы $$ \boldsymbol{u}\cdot\nabla h+h\mathop{\rm div}\boldsymbol{u}=\mathop{\rm div}(h \boldsymbol{u}) , \quad \boldsymbol{u}\cdot\mathop{\rm rot} \boldsymbol{v}- \mathop{\rm rot} \boldsymbol{u}\cdot\boldsymbol{v}=\mathop{\rm div}[\boldsymbol{v},\boldsymbol{u}], $$ где $[\boldsymbol{v},\boldsymbol{u}]$ --- векторное произведение, и интегрирование по области $G$ используются при определении операторов $\mathop{\rm div} \boldsymbol{u}$ и $\mathop{\rm rot}\boldsymbol{u}$ в $\mathbf{L}_{2}(G)$. Оператор Лапласа выражается через $\mathop{\rm rot} \mathop{\rm rot}$ и $\nabla \mathop{\rm div}$: \begin{equation} \label{eqno:(1.3)} \Delta \boldsymbol{v} =\nabla \mathop{\rm div} \boldsymbol{v} -\mathop{\rm rot} \mathop{\rm rot} \boldsymbol{v}. \end{equation} Оператор Лапласа эллиптичен [11], а операторы $\mathop{\rm rot}$ и $\nabla \mathop{\rm div}$ не являются таковыми. Они вырождены, причем $\mathop{\rm rot} \boldsymbol{u}=0$ при $\boldsymbol{u}\in \mathcal{A}$, $\nabla\mathop{\rm div} \boldsymbol{v}=0$ при $\boldsymbol{v}\in \mathcal{B}$ в~смысле~$\mathbf{L}_{2}(G)$~[3]. Поэтому $\Delta \boldsymbol{v} = \nabla \mathop{\rm div} \boldsymbol{v}$ на $\mathcal{A}$ и $\Delta \boldsymbol{v} =-\mathop{\rm rot}\, \mathop{\rm rot} \boldsymbol{v} $ на $\mathcal{B}$. {\smallskip\sc\small Замечание.}{ \small H.~Weyl называет безвихревым (irrotational) поле $\boldsymbol{u}\in \mathbf{L}_{2}(G)$, для которого $(\boldsymbol{u}, \mathop{\rm rot} \boldsymbol{v}) =0$ для любого поля $ \boldsymbol{v}$ c компонентами $v_j$ из $\mathcal{C}_0^1(G)$, а поле ${\boldsymbol{w}\in \mathbf{L}_{2}(G)}$, для которого $(\boldsymbol{w}, \nabla \boldsymbol{v}) =0$ $\forall \,\boldsymbol{v}\in \mathcal{C}_0^1(G)$ --- соленоидальным [3]. Запись ``$\mathop{\rm rot} \boldsymbol{u}=0$ при $\boldsymbol{u}\in\mathcal{A}$'' означает, что $\boldsymbol{u}=\{\nabla h\}$, где $ h\in H^1(G)$, и $(\boldsymbol{u}, \mathop{\rm rot} \boldsymbol{v}) \hm= (\nabla h, \mathop{\rm rot} \boldsymbol{v})=0$ для любого $ \boldsymbol{v}$ c~компонентами $v_j\in \mathcal{C}_0^{\infty}(G)$, что очевидно. } \smallskip \hypertarget{S1.4}{} \Section[n]{1.4. Содержание. Классы обобщенно эллиптических задач} В \hyperlink{S1}{\S~1} настоящей статьи определяются основные подпространства $\mathbf{L}_{2}(G)$, операторы, их соотношения, и формулируются основные результаты работы. \hyperlink{S2}{\S~2} содержит постановку краевых задач \eqref{eqno:(2.1)}, \eqref{eqno:(2.2)} для операторов $ \mathop{\rm rot}+\lambda I$ и \linebreak $ \nabla\mathop{\rm div}+\lambda I$ первого и второго порядков в~пространствах Соболева. Определяются классы [REES~$p$] обобщенно эллиптических систем. Системы \eqref{eqno:(2.1)}, \eqref{eqno:(2.2)} при $\lambda\neq 0$ принадлежат классу [REES~1]. Им соответствуют операторы $\mathbb{A}$ и~$\mathbb{B}$, которые расширяются до эллиптических (по В.~Солонникову) операторов $\mathbb{A}_R$ и $\mathbb{B}_R$. Применяя его Теорему 1.1 [11], можно доказать следующие теоремы. \smallskip \hypertarget{saks:th1}{} \begin{theorem}[1]Оператор $\mathbb{A}_R$ имеет левый регуляризатор$.$ Его ядро конечно\-мерно и для любых $ \boldsymbol{u}\in \mathbf{H}^{s+1}(G)$ и $ \lambda \neq 0 $ $($с~постоянной $C_s =C_s(\lambda )>0,$ зависящей только от $s,$ $\lambda) $ выполняется оценка \begin{equation} \label{eqno:(1.4)} C_s\|\boldsymbol{u}\|_{s+1} \leq\|\mathop{\rm rot} \boldsymbol{u}\|_{s}+ |\lambda| \|\mathop{\rm div} \boldsymbol{u}\|_{s}+ |\gamma({\boldsymbol{n}}\cdot\boldsymbol{u})|_{s+1/2}+ \|\boldsymbol{u}\|_{s}. \end{equation} \end{theorem} \smallskip \hypertarget{saks:th2}{} \begin{theorem}[2]Оператор $\mathbb{B}_R$ имеет левый регуляризатор$.$ Его ядро конечно\-мерно и для любых $\boldsymbol{u}\in \mathbf{H}^{s+2}(G)$ и $\lambda \neq 0 $ $($с~постоянной $C_s =C_s(\lambda )>0,$ зависящей только от $s,$ $\lambda) $ выполняется оценка \begin{equation} \label{eqno:(1.5)} C_s\|\boldsymbol{v}\|_{s+2} \leq|\lambda|\|\mathop{\rm rot} \boldsymbol{v}\|_{s+1}+ \|\nabla\mathop{\rm div} \boldsymbol{v}\|_{s}+ |\gamma({\boldsymbol{n}}\cdot\boldsymbol{v})|_{s+3/2}+ \|\boldsymbol{v}\|_{s}. \end{equation} \end{theorem} \smallskip Топологических ограничений на область нет, предполагается ее связность, ограниченность и гладкость границы. Оценка \eqref{eqno:(1.5)} получена автором {\it впервые} из оценок Солонникова [11]. Оценка \eqref{eqno:(1.4)} известна автору давно, она не была выписана в~[12], хотя ему было известно, что эллиптичность задачи эквивалентна точной оценке в~пространствах Соболева от Л.~Р.~Волевича [13]. Тогда автор еще работал в~пространствах Гельдера. Z.~Yoshida и Y.~Giga в~[9] ссылаются на работы J.~P.~Bour\-guig\-non, H.~Brezis~[14] и C.~Foias, R.~Temam [15]. Этот подход применим для других обобщенно эллиптических систем класса [REES~$p$]. Этот класс выделен из класса Вайнберга и Грушина [16], он содержит системы математической физики, главные части которых суть степени ротора или градиента дивергенции. Из эллиптической теории вытекают свойства решений спектральных задач операторов ротора и градиента дивергенции, такие как конечная кратность ненулевых с.-значений и~гладкость с.-полей в~любой области $G$ с~гладкой границей. % Явные формулы я нашел, обнаружив их Решения спектральных задач операторов ротора и градиента дивергенции в шаре [17] имеют простые связи с решениями спекральных задач Дирихле и~Неймана для оператора Лапласа, которые решены явно в~учебнике В.~С.~Владимирова [18]. \smallskip \hypertarget{S1.5}{} \Section[n]{1.5. Оператор ротор в классе $\textbf{V}^{\bf 0}$ вихревых полей} Z.~Yoshida и Y.~Gi\-ga [9] рассмотрели в $\mathbf{L}_2(G)$ подпространства $L^2_{\Sigma}$ и ${H}^{1}_{\Sigma\Sigma}$ и ввели в $L^2_{\Sigma}$ оператор $S$, который совпадает с $\mathop{\rm rot}\boldsymbol{u}$, если $\boldsymbol{u}\in {H}^{1}_{\Sigma\Sigma}$. Они доказали теорему~1: \linebreak \vspace{-3mm} \noindent {\it The operator $S$ is self-adjoint in the space $L^2_{\Sigma}.$ The spectrum $\sigma(S)$ of $S$ consists of only point spectrum $\sigma_p(S)\subset\mathbb{R}.$ Therefore$,$ the set of eigenfunctions of $S$ gives an orthogonal complete basis of the space $L^2_{\Sigma}.$} \smallskip Кроме того, в лемме~1 они доказывают, что \begin{itemize} \item[(1)] \it пространство ${H}^{1}_{\Sigma\Sigma}(\Omega )$ является подпространством ${H}^{1}(\Omega )$ и оно плотно в $L^2_{\Sigma}(\Omega ),$ \rm \item[(2)] \it область значений $R(S)$ оператора $S$ совпадает с $L^2_{\Sigma}(\Omega );$ оператор $S$ имеет компактный обратный из $L^2_{\Sigma}(\Omega )$ в ${H}^{1}_{\Sigma\Sigma}(\Omega ).$ \end{itemize} \smallskip Переобозначим эти пространства: $L^2_{\Sigma}\equiv\textbf{V}^{0}$, ${H}^{1}_{\Sigma\Sigma}\equiv \mathbf{W}^{1}$, а~отображения $S$~и~$S^{-1}$ запишем так: \[ \mathcal{D}(S)= \mathbf{W}^1\subset \textbf{V}^0\subset \mathbf{L}_2, \quad S^{-1}:\textbf{V}^{0} \to \mathbf{W}^{1}, \quad S=\mathop{\rm rot}: \mathcal{D}(S) \to \textbf{V}^{0}. \] В \hyperlink{S3}{\S~3} показывается, что собственные поля ротора всегда {\it встречаются парами}\/: каждой собственной вектор=функции ротора $\boldsymbol{u}^{+}_{j}$ с~положительным собственным значением $\lambda_j$ соответствует собственная вектор=функция ротора $\boldsymbol{u}^{-}_{j}$ с~отрицательным собственным значением $-\lambda_j$, а~в~$\textbf{V}^{0}$ фиксируется ортонормированный базис $\boldsymbol{q}^{\pm}_{j}$: $$ \mathop{\rm rot} \boldsymbol{q}_{j}^{\pm}=\pm\lambda_j \boldsymbol{q}_{j}^{\pm}, \quad \boldsymbol{n}\cdot\boldsymbol{q}_{j}^{\pm}|_{\Gamma}=0, \quad \|\boldsymbol{q}^{\pm}_{j}\|=1. $$ В~этом базисе элементы $\textbf{V}^{0}(G)$ представляются рядами Фурье \eqref{eqno:(3.2)}, а операторы $S$ и $S^{-1}$ --- преобразованиями этих рядов \eqref{eqno:(3.5)} и \eqref{eqno:(3.9)}. При $ k\geq 1$ определяются пространства \[ \mathbf{W}^{k}= \{\boldsymbol{f}\in\textbf{V}^{0}, \dots, \mathop{\rm rot}\nolimits^k \boldsymbol{f}\in\textbf{V}^{0} \}\quad \text{и}\quad \mathbf{W}^{-k}=(\mathbf{W}_0^{k})^*, % \quad k\geq 1, \] где пространство $\mathbf{W}^{k}_0(G)$ есть замыкание в норме $\mathbf{W}^{k}(G)$ множества $\mathcal{C}^{\infty}_0(G)$, а пространство $ \mathbf{W}^{-k}=(\mathbf{W}^{k}_0)^*$ сопряженно с ним [1]. Отметим вложения \[ \dots \subset\mathbf{W}^{m}\subset \dots \subset \mathbf{W}^1\subset \textbf{V}^{0}(G)\subset \mathbf{W}^{-1}\subset \dots \subset \mathbf{W}^{-m}\subset \cdots . \eqno{(m)} \] Оператор $S^{-1}$ отображает $\textbf{V}^{0}$ на $\mathbf{W}^{1}$, а $\mathbf{W}^{k-1}$ на $\mathbf{W}^{k}$ при $k>1$. Оператор $S$ отображает $\mathbf{W}^{k}$ на $\mathbf{W}^{k-1}$, % при $k>1$, а $\mathbf{W}^{1}$ на $\mathbf{W}^{0}\equiv \textbf{V}^{0} $. % \quad S^{-1}:\mathbf{W}^{m} \to \mathbf{W}^{m+1}, Рассматривается также оператор $S+\lambda I$. Мы доказываем, что оператор $S+\lambda I:\mathbf{W}^{k} \to \mathbf{W}^{k-1}$ --- фредгольмов. По определению, оператор $ S+\lambda I$ совпадает с $\mathop{\rm rot}+\lambda I$ на $\mathbf{W}^{1}$ и %Если $\boldsymbol{f}\in \mathbf{W}^{1}$, то \[ (S+\lambda I)\boldsymbol{f}= \lim_{n \to \infty} (\mathop{\rm rot}+\lambda I) (\boldsymbol{f}^n_{\textbf{V}}) = \sum_{j=1}^\infty \bigl[ (\lambda+\lambda_j)(\boldsymbol{f},\boldsymbol{q}^{+}_{j})\boldsymbol{q}^{+}_{j}+ (\lambda-\lambda_j)(\boldsymbol{f},\boldsymbol{q}^{-}_{j})\boldsymbol{q}^{-}_{j} \bigr]. \] Ряд сходится в $\mathbf{L}_{2}(G)$, так как $\| (S+\lambda I)\boldsymbol{f}\|^2_{ \textbf{V}^0}\leq c^2_0 \|\boldsymbol{f}\|^2_{\mathbf{W}^1}$, где $c_0<\infty $ (см.~\eqref{eqno:(3.14)}). Обратный оператор имеет вид % $\boldsymbol{f}\in V^0$, то \begin{equation} (S+\lambda I)^{-1}\boldsymbol{f}= \sum_{j=1}^{\infty} \biggl[ \frac{(\boldsymbol{f},{\boldsymbol{q}}_{j}^+)}{\lambda+\lambda_{j}} \boldsymbol{q}_{j}^+(\boldsymbol{x})+ \frac{(\boldsymbol{f},{\boldsymbol{q}}_{j}^-)}{\lambda-\lambda_{j}} \boldsymbol{q}_{j}^-(\boldsymbol{x}) \biggr], \label{eqno:(1.6)} \end{equation} если ни одно из слагаемых этого ряда не обращается в~бесконечность. Это означает, что либо $\lambda\pm \lambda_{j}\neq 0$ для всех $j$, либо $(\boldsymbol{f},\boldsymbol{q}^{-}_{j})=0$ при $\lambda=\lambda_j=\lambda_{j_0}$, и~эти элементы отсутствуют в~ряду. При этом $$ \|(S+\lambda I)^{-1}\boldsymbol{f}\|^2_{\mathbf{W}^1} \leq C^2_0 \|\boldsymbol{f}\|^2_{\textbf{V}^0}, $$ где $C^2_0 <\infty$ не зависит от $\boldsymbol{f}$ (см.~\eqref{eqno:(3.16)}). Следовательно, оба оператора непрерывны и имеет место \smallskip \hypertarget{saks:th3}{} \begin{theorem}[3]Оператор $S+\lambda I: \mathbf{W}^{1}(G)\to \textbf{V}^{0}(G)$ непрерывен и~однозначно обратим$,$ если $\lambda$ не принадлежит спектру $\sigma_p(S)\subset\mathbb{R}$ оператора $S.$ Его \linebreak обратный оператор задается формулой~\eqref{eqno:(1.6)} и~для любого $\boldsymbol{f}\in {\textbf{V}^0}$ ряд \linebreak $({S+\lambda I})^{-1}\boldsymbol{f}\in {\mathbf{W}^1}.$ Если $\lambda=\lambda_{j_0},$ то он обратим тогда и только тогда$,$ когда \begin{equation} \label{eqno:(1.7)} \int_G \boldsymbol{f}\cdot \boldsymbol{q}_j^- dx=0\quad \text{для}\quad\forall \boldsymbol{q}_j^-: \lambda_j=\lambda_{j_0}. \end{equation} Ядро оператора $S+\lambda_{j_0} I$ конечномерно и определяется собственными функциями $\boldsymbol{q}_j^-(\boldsymbol{x}),$ собственные значения которых равны $\lambda_{j_0}{:}$ \begin{equation} \mathop{\rm Ker}(S+\lambda_{j_0} I)= \sum_{\lambda_j=\lambda_{j_0}} c_j \boldsymbol{q}^{-}_{j}(\boldsymbol{x}) \quad\forall \,c_j\in \mathbb{R}. \label{eqno:(1.8)} \end{equation} \end{theorem} \smallskip В п.~\hyperlink{S3.5}{3.5} приводятся также оценки \begin{equation} \label{eqno:(1.9)} \|(S+\lambda I)\boldsymbol{f}\|^2_{ \mathbf{W}^m}\leq c^2_m \|\boldsymbol{f}\|^2_{\mathbf{W}^{m+1}}, \quad \|(S+\lambda I)^{-1}\boldsymbol{f}\|^2_{\mathbf{W}^{m+1}}\leq C^2_m \|\boldsymbol{f}\|^2_{\mathbf{W}^{m}}, \end{equation} где постоянные $ c_m$, $C_m< \infty $ не зависят от $\boldsymbol{f}$ и при $m=0$ совпадают с~\eqref{eqno:(3.14)} и~\eqref{eqno:(3.16)}. Из теоремы и этих оценок следует \smallskip \hypertarget{saks:lemma1}{} \begin{lemma}[1]Если $\lambda \,\overline{\in}\, \mathop{\rm Sp}( {S}),$ $ m \geq0,$ то операторы $ S+\lambda I$ $($и его обратный$)$ отображают пространство $ \mathbf{W}^{m+1}$ на $ \mathbf{W}^{m}$ $($и обратно$)$ взаимно однозначно и непрерывно$.$ \end{lemma} \smallskip \hypertarget{S1.6}{} \Section[n]{1.6. Соотношения между пространствами $\mathbf{W}^{\boldsymbol k}$, $\mathbf{H}^{\boldsymbol k}$ и $\mathbf{C}^{\bf \boldsymbol k-2}$} Рассмотрим область $\Omega$, гомеоморфную шару, которую С.~Л.~Соболев выделил в~[5]. В~этом случае пространство $\mathcal{B}_H(\Omega)$ пусто. Граница области $\Omega$ предполагается гладкой. Скалярное произведение в $\mathbf{H}^k(\Omega)$ С.~Л.~Соболевым определяется так: \begin{equation} \label{eqno:(1.10)} (\boldsymbol{f},\boldsymbol{g})_k=(\boldsymbol{f},\boldsymbol{g})+ \int_{\Omega} \sum_{|\alpha|=k} \frac{k!}{\alpha !}\partial^{\alpha}\boldsymbol{f}\cdot\partial^{\alpha}\boldsymbol{g} \, d \boldsymbol{x},\quad k\geq 1. \end{equation} В пространстве $ \mathbf{W}^k(\Omega)= \{\boldsymbol{f}\in \textbf{V}^0, \dots, \mathop{\rm rot}^{k} \boldsymbol{f}\in \textbf{V}^0\}$ норма $\boldsymbol{f}\in{\mathbf{W}^k}$ выбирается так же: $\|\boldsymbol{f}\|^2_{\mathbf{W}^k}\equiv \|\boldsymbol{f}\|^2+\|\mathop{\rm rot}^k \boldsymbol{f}\|^2$. Имеет место \smallskip \hypertarget{saks:th4}{} \begin{theorem}[4]Для того чтобы $\boldsymbol{f}\in \textbf{V}^0(\Omega)$ разлагалась в ряд Фурье \begin{equation} \label{eqno:(1.11)} \boldsymbol{f}(\boldsymbol{x})=\sum_{j=1}^{\infty} \bigl[(\boldsymbol{f},\boldsymbol{q}_{j}^+)\boldsymbol{q}_{j}^+(\boldsymbol{x}) +(\boldsymbol{f},\boldsymbol{q}_{j}^-)\boldsymbol{q}_{j}^-(\boldsymbol{x})\bigr], \quad \|\boldsymbol{q}_{j}^{\pm}\| =1, \end{equation} по собственным вектор-функциям $\boldsymbol{q}_{j}^{\pm}(\boldsymbol{x})$ ротора в области $\Omega,$ сходящийся в~норме пространства Соболева $\mathbf{H}^k(\Omega),$ необходимо и достаточно$,$ чтобы $\boldsymbol{f}$ принадлежала $\mathbf{W}^k(\Omega).$ Если $\boldsymbol{f}\in \mathbf{W}^k(\Omega),$ то существует такая постоянная $C>0,$ не зависящая от $\boldsymbol{f},$ что \begin{equation} \label{eqno:(1.12)} \sum_{j} {\lambda}_{j}^{2k} \bigl[(\boldsymbol{f},\boldsymbol{q}_{j}^+)^2 +(\boldsymbol{f},\boldsymbol{q}_{j}^-)^2\bigr]\leq C \|\boldsymbol{f}\|^2_{\mathbf{H}^k(\Omega)}. \end{equation} Если $k\geq 2,$ то вектор-функция $\boldsymbol{f}$ из $\mathbf{W}^k(\Omega)$ разлагается в ряд~\eqref{eqno:(1.11)}$,$ сходящийся в пространстве $\mathbf{C}^{k-2}(\overline{\Omega}).$ \end{theorem} \smallskip {\small\sc Следствие.} {\it Вектор-функция $\boldsymbol{f}\in \textbf{V}^0\cap\mathbf{C}^{\infty}_0(\Omega)$ разлагается в ряд~\eqref{eqno:(1.11)}$,$ сходящийся в любом из пространств $\mathbf{C}^{k}(\overline{\Omega}),$ $ k\in \mathbb{N}.$} \smallskip Эти результаты дополняют известные в теории рядов Фурье утверждения (см. [6, Теорема 7, § 4 гл. 2], [2, Теорема 8, § 2 гл. 4]). Таким образом, $\mathbf{W}^k(G)$ --- аналоги пространств Соболева $\mathbf{H}^k(G)$ в~классе соленоидальных полей. Отметим вложения \begin{equation} \label{eqno:(1.13)} \mathbf{W}^k\subset \mathbf{W}^{k-1}\subset\dots \subset \mathbf{W}^1\subset \textbf{V}^{0}. \end{equation} Заметим, что Z.~Yoshida и Y.~Giga [9] не рассматривали пространствa $\mathbf{W}^{k}$, $k> 1$. Они ввели ${H}^{1}_{\Sigma\Sigma}=\mathcal{D}(S)$ как область определения $S$. Пространства $ \mathbf{W}^k$ % их вложения (Теорема 3 и Лемма 1) % $\mathbf{W}^{k}$ и пространствами и соотношения между ними и $\mathbf{H}^{k}$ и $\mathbf{C}^{k-2}$ (теоремы~\hyperlink{saks:th3}{3},~\hyperlink{saks:th4}{4} и~лемма~\hyperlink{saks:lemma1}{1}) --- это {\it первый основной} результат настоящей статьи. \smallskip \hypertarget{S1.7}{} \Section[n]{1.7. Класс $\mathcal{A}$ потенциальных полей} В статье [19] изучен класс $\mathcal{A}$ потенциальных полей: собственные поля оператора $\nabla\mathop{\rm div}$ задают ортогональный базис в $\mathcal{A}_{\gamma}$, оператор $\mathcal{N}_d$ есть самосопряженное расширение $\nabla\mathop{\rm div}$ в $\mathcal{A}_{\gamma}$, пространства \begin{equation} \label{eqno:(1.14)} \mathbf{A}_{\gamma}^{2k}(G)= \{\boldsymbol{f}\in\mathcal{A}_{\gamma}(G),\dots, (\nabla\mathop{\rm div})^k\,\boldsymbol{f}\in\mathcal{A}_{\gamma}(G) \}\quad \forall \, k\geq 1, \end{equation} --- аналоги пространств Соболева $\mathbf{H}^{2k}(G)$ порядков $2k$ в классе $\mathcal{A}_{\gamma}$. Так же как лемма~\hyperlink{saks:lemma1}{1}, доказана \smallskip \hypertarget{saks:lemma2}{} \begin{lemma}[2]Если $\lambda \,\overline{\in}\, \mathop{\rm Sp} (\mathcal{N}_d),$ $k \geq0,$ то операторы $ \mathcal{N}_d+\lambda I$ $($и его обратный$)$ отображает пространство $ \mathbf{A}^{2(k+1)}_{\gamma }$ на $ \mathbf{A}^{2k}_{\gamma }$ $($и обратно$)$ взаимно однозначно и непрерывно$.$ \end{lemma} \smallskip Отметим вложения \begin{equation} \label{eqno:(1.15)} \mathbf{A}^{2k}_{\gamma }\subset \dots \subset\mathbf{A}^{2}_{\gamma }\subset\mathcal{A}_{\gamma }\subset \mathcal{A}\subset \mathbf{L}_2(G). \end{equation} Базисные векторы в классах $\mathcal{A}$ и $\mathcal{B}=\mathcal{B}_H\oplus \textbf{V}^0$ в совокупности образуют базис во всем пространстве $\mathbf{L}_{2}(G)$. \smallskip \Section[n]{1.8. Содержание. Классы пространств $\bf \boldsymbol C(2 \boldsymbol k, \boldsymbol m)$ в $\mathbf{L}_{\bf 2}(\boldsymbol \Omega)$} В \hyperlink{S4}{\S~4} рассматривается % $\mathbf{A}^{2k}_{\gamma }(\Omega)$ и $\mathbf{W}^m(\Omega)$ порядков % и строится целочисленная сетка пространств $ C(2k,m)\equiv \mathbf{A}^{2k}_{\gamma } \oplus \mathbf{W}^m$, называемых классами, $k\geq 0$, $m\geq 0 $ --- целые, $k+m>0$, а также пространство $\mathbf{E}_{\gamma}^{0}(\Omega)$. Доказана \smallskip \hypertarget{saks:th5}{} % %\footnotetext{$^3$ Формулировка задачи \hyperlink{saks:task:1}{\rm 1} дана в п.~\hyperlink{S4.3}{4.3}.} \begin{theorem}[5]Если $\lambda\neq 0,$ $\pm {\lambda}_{j},$ $j\in \mathbb{N}$ и $\boldsymbol{f}\in\mathbf{L}_{2}(\Omega),$ то единственное решение~$\boldsymbol{u}$ задачи \hyperlink{saks:task:1}{\rm 1} п.~\hyperlink{S4.3}{\rm 4.3} дается суммой рядов=проекций $\boldsymbol{u}_{\mathcal{A}}+\boldsymbol{u}_{\textbf{\rm\bf V}}{:}$ \begin{gather} \label{eqno:(1.16)} {\boldsymbol{u}_{\mathcal{A}}}={\lambda}^{-1}\boldsymbol{f}_\mathcal{A}\equiv{\lambda}^{-1} \sum_{j=1}^{\infty} (\boldsymbol{f}, \boldsymbol{q}_{j}) \boldsymbol{q}_{j} (\boldsymbol{x}), \label{eqno:(1.17)} \boldsymbol{u}_{\textbf{\bf V}}={(S+\lambda I)^{-1}} \boldsymbol{f}_{ \textbf{\bf V}}\equiv \sum_{j=1}^{\infty} \biggl[\frac{(\boldsymbol{f},{\boldsymbol{q}}_{j}^{+})} {\lambda{+}\lambda_{j}} \boldsymbol{q}_{j}^{+}(\boldsymbol{x})+ \frac{(\boldsymbol{f},{\boldsymbol{q}}_{j}^{-})}{\lambda-\lambda_{j}} \boldsymbol{q}_{j}^{-}(\boldsymbol{x}) \biggr]. \end{gather} В частности$,$ \begin{itemize} \item[--] если $\boldsymbol{f}=\boldsymbol{f}_{\mathcal{A}}$ и $\boldsymbol{f}_{\mathcal{A}}\in \mathcal{A}$ или $\boldsymbol{f}_{\mathcal{A}}\in\mathcal{A}_{\gamma},$ то $\boldsymbol{u}= {\lambda}^{-1}\boldsymbol{f}_{\mathcal{A}}\in \mathcal{A}$ или $\boldsymbol{u}\in \mathcal{A}_{\gamma} $ --- обобщенные решения задачи~\hyperlink{saks:task:1}{\rm 1}$;$ \item[--] если $\boldsymbol{f}\in \mathcal{B}\bot \mathcal{A}$ в $\mathbf{L}_{2}(\Omega),$ то $\boldsymbol{u}={(S+\lambda I)^{-1}}\boldsymbol{f}_{\textbf{\bf V}}\in \mathbf{W}^1\subset \mathbf{H}^{1}_{\gamma}(\Omega);$ \item[--] если $\boldsymbol{f}\in\mathbf{E}_{\gamma}^{0}(\Omega),$ то $\boldsymbol{u}=\boldsymbol{u}_{\mathcal{A}}+\boldsymbol{u}_{\textbf{\bf V}}\in \mathbf{H}^{1}_{\gamma}(\Omega);$ \item[--] если $\boldsymbol{f}$ принадлежит классу $C(2k, m),$ то $\boldsymbol{u}\in C(2k, m+1);$ \item[--] если же $\boldsymbol{f}\in \mathcal{D}(\Omega),$ то ряды \eqref{eqno:(1.16)}$,$ \eqref{eqno:(1.17)} сходятся в~$\mathbf{H}^{s}(\Omega)$ для любого $s\geq 1$ и $\boldsymbol{u}\in C^{\infty}(\overline{\Omega})$ --- классическое решение задачи. \end{itemize} \end{theorem} \smallskip {\small\sc Замечание.} {\small В статье [17] доказано, что собственные значения ротора в шаре радиуса $R$ равны $\pm \rho_{n,m} R^{-1}$, где числа $\pm \rho_{n,m}$ --- нули функций % $\psi_n(r)$, \begin{equation} \label{eqno:(1.18)} \psi_n(z)=(-z)^n\Bigl(\frac{d}{z\,dz}\Bigr)^n\frac{\sin z}z,\quad m, n\in \mathbb {N}, \end{equation} кратность собственного значения $\lambda_{n,m} =\pm \rho_{n,m} R^{-1}$ равна $2n+1$. Собственные значения оператора $\nabla\mathop{\rm div}$ равны $-\nu_{n,m}^2$, где $\nu_{n,m}=\alpha_{n,m} R^{-1}$, а числа $\alpha_{n,m}$ --- нули производных $\psi'_n(r)$, $n \geq 0$, $ m\in {\mathbb {N}}$; кратность собственного значения $-\nu^2_{n,m}$ равна $2n+1$. Собственные поля $\boldsymbol{q}_{\kappa}$ градиента дивергенции и $ \boldsymbol{q}^{\pm}_{\kappa}$ ротора выражаются явно через сферические функции и функции $\psi_n(r)$; $ \kappa=(n,m,k)$.} \smallskip Из теоремы \hyperlink{saks:th5}{5} и леммы \hyperlink{saks:lemma1}{1} вытекают следующие утверждения. \smallskip \hypertarget{saks:lemma3}{} \begin{lemma}[3]При $\lambda \neq \mathop{\rm Sp} (\mathop{\rm rot})$ оператор $\mathop{\rm rot}+\lambda I$ отображает класс ${C(2k, m{+}1)}$ на класс $C(2k, m)$ взаимно однозначно и непрерывно$,$ $k,$ $m\geq0.$ \end{lemma} \smallskip {\small\sc Следствие. } {\it Если область $\Omega=B,$ %есть шар, $\psi_n(\lambda\,R)\neq 0$ $\forall\, n\in {\mathbb {N}},$ а поле $\boldsymbol{f}\in \mathbf{A}^{2k}_{\gamma }(B)\oplus \mathbf{W}^m(B),$ то решение задачи \hyperlink{saks:task:1}{\rm 1} существует$,$ единственно и принадлежит классу $ \mathbf{A}^{2k}_{\gamma }(B)\oplus \mathbf{W}^{m+1}(B).$ } \smallskip Аналогично доказаны следующие утверждения. \smallskip \hypertarget{saks:lemma4}{} \begin{lemma}[4]При $\nu^2\neq \mathop{\rm Sp}(-\nabla \mathop{\rm div})$ оператор $ \nabla \mathop{\rm div}+\nu^2 I$ отображает класс ${C(2(k+1), m)}$ на класс $C(2k,m)$ взаимно однозначно и непрерывно$.$ \end{lemma} \smallskip %\footnotetext{\hypertarget{Foot:4}{$^4$} Формулировка задачи \hyperlink{saks:task:2}{\rm 2} дана %в %п.~\hyperlink{S4.3}{4.3}.} {\small\sc Следствие. } {\it Если область $\Omega=B,$ $\psi'_n(\nu\,R)\neq 0$ $\forall\, n \geq 0,$ а~поле $\boldsymbol{f}\in \mathbf{A}^{2k}_{\gamma }(B)\oplus \mathbf{W}^m(B),$ то решение задачи \hyperlink{saks:task:2}{\rm 2} п.~\hyperlink{S4.3}{\rm 4.3} существует$,$ единственно и принадлежит классу $ \mathbf{A}^{2(k+1)}_{\gamma }(B)\oplus \mathbf{W}^{m}(B).$ } \smallskip Таким образом, изучены пространства $\mathbf{W}^m$ на рядах Фурье, определяемых собственными полями оператора ротор (вихрь). В пространстве $ \mathbf{L}_{2}(\Omega)$ введены классы $ C(2k,m)\equiv \mathbf{A}^{2k}_{\gamma } \oplus \mathbf{W}^m$ и рассмотрены их отображения операторами $\mathop{\rm rot}+\lambda I$ и $ \nabla \mathop{\rm div}+\nu^2 I$. Теорема \hyperlink{saks:th5}{5}, леммы \hyperlink{saks:lemma3}{3}, \hyperlink{saks:lemma4}{4} и~их следствия --- это {\it второй основной} результат этой статьи. \smallskip \hypertarget{S2}{} \phantomsection% \clear \setcounter{equation}{0} \renewcommand{\theequation}{2.\arabic{equation}} \centerline{\textbf{2. Краевые и спектральные задачи}} \Section[n] {2.1. Краевые задачи} В ограниченной области $G$ с~гладкой границей $\Gamma$ изучаются {\it задачи}\/: найти вектор=функции $\boldsymbol{u}$ и $\boldsymbol{v}$ такие, что \begin{gather} \label{eqno:(2.1)} ~~~\mathop{\rm rot}\boldsymbol{u}+\lambda \boldsymbol{u}=\boldsymbol{f}(\boldsymbol{x}), \quad \boldsymbol{x}\in G, \quad \boldsymbol{n}\cdot \boldsymbol{u}|_{\Gamma }=g, \label{eqno:(2.2)} \nabla \mathop{\rm div}\boldsymbol{v}+\lambda \boldsymbol{v}=\boldsymbol{f}(\boldsymbol{x}), \quad \boldsymbol{x}\in G, \quad \boldsymbol{n}\cdot \boldsymbol{v}|_{\Gamma }=g, \end{gather} где векторная и~скалярная функции $\boldsymbol{f}$ и ${g}$ заданы. Решения задач ищем в~пространствах Соболева $\mathbf{H}^{s+1}(G)$ и~$\mathbf{H}^{s+2}(G)$, где $s$ --- целое $s\geq 0$, а $(\boldsymbol{f},{g})$ задаем в следующих пространствах: $\boldsymbol{f}\in \mathbf{H}^{s}(G)$, $g\in {H}^{s+1/2}(\Gamma)$ и~$\boldsymbol{f}\in \mathbf{H}^{s}(G)$, $g\in {H}^{s+3/2}(\Gamma)$ соответственно. Эта постановка является {\it классической} в теории {\it эллиптических краевых задач в пространствах Соболева} [1, 11]. Отметим, что ненулевые решения $(\boldsymbol{u}, \lambda)$ и $(\boldsymbol{v}, \lambda)$ однородных задач \eqref{eqno:(2.1)}, \eqref{eqno:(2.2)} ($\boldsymbol{f}=0$ и ${g}=0$) --- решения спектральных задач операторов $ \text{rot}$ и $\nabla\mathop{\rm div}$. Они аннулируют друг друга и \begin{equation*} \mathop{\rm rot}\boldsymbol{u}=0 ~~ \text{на} ~~ \mathcal{A}=\{\nabla h, \, h \in H^{1}\}, \quad \nabla \mathop{\rm div}\boldsymbol{v}=0 ~~ \text{на} ~~ \mathcal{B}\perp \mathcal{A}. \end{equation*} Ортогональные пространства ${\mathcal{{A}}}$ и ${\mathcal{B}}$ в $\mathbf{L}_{2}(G)$ бесконечномерны [3]. При $\lambda=0$ однородные задачи \eqref{eqno:(2.1)} и \eqref{eqno:(2.2)} имеют счетное число линейно независимых решений. Значит, {\it нулевая точка} спектра каждого из операторов $\text{rot}$ и \, $\nabla\mathop{\rm div}$ имеет {\it бесконечную кратность}. Специфика этих задач состоит в том, что эти операторы при $\lambda\neq 0$ являются {\it обобщенно эллиптическими} класса [REES~1]. \smallskip \Section[n] {2.2. Класс систем, приводимых к эллиптическим системам} Определение этого класса мы приведем для систем дифференциальных уравнений с постоянными коэффициентами. Система дифференциальных уравнений $S( \boldsymbol \partial )u=f$ порядка $m$ из этого класса обладает свойствами: \begin{itemize} \item[а)] ее символическая матрица $S_0(i \boldsymbol \xi)$ имеет постоянный ранг для любой $\boldsymbol \xi\in\mathbb{R}^3\backslash 0$. Это позволяет построить аннулятор $C(\partial)$ оператора $S_0(\boldsymbol \partial)$ такой, что $(CS_0)(\boldsymbol \partial)\equiv 0$ на $X$ и определить \item[ б)] расширенную систему $\left(\begin{matrix}Su=f CSu=Cf\end{matrix}\right)$ порядка $\left(\begin{matrix}m k\end{matrix}\right)$. Ее символическая матрица $\left(\begin{matrix}S_0(i \boldsymbol \xi) (CS)_0(i \boldsymbol \xi)\end{matrix}\right)$ определяется младшей частью оператора $S(\boldsymbol \partial)$ и~дополняет матрицу $S_0(i \boldsymbol \xi)$. \item[ в)] Если ранг расширенной матрицы максимален, то исходная система \linebreak ${Su=f}$ принадлежит классу [REES~1] и степень ее приводимости равна единице. \item[ г)] Если система $Su=f$ такова, что ранг расширенной матрицы не максимален, но постоянен, то процесс повторяется и при определенных условиях система принадлежит классу [REES~2]. Символ [REES~$p$] означает ``REduced to Elliptic Systems на $p$-том шаге''. \end{itemize} Б.~Вайнберг и В.~Грушин [16] доказали, что система $Su=f$ класса [REES~$p$] является разрешимой по Фредгольму или Нетеру в~пространствах Соболева $\mathbf{H}^s(X)$, если $f\in \mathbf{H}^{s-m+p}(X)$, где $s\geq m$ --- целое. В качестве примера приводится оператор $d+\ast$ на дифференциальных формах степени $k$ в~$2{k+1}$-мерном многообразии $X$ без края, где $d$ --- оператор внешнего дифференцирования, а $*$ --- оператор нулевого порядка, который переводит форму $\omega^ j$ степени $j$ в форму $*\omega$ степени $n - j$. Системы \eqref{eqno:(2.1)}, \eqref{eqno:(2.2)} являются {\it обобщенно эллиптическими} класса [REES\,1]. Действительно, из этих уравнений вытекают соотношения $$ \lambda \mathop{\rm div} \boldsymbol{u}= \mathop{\rm div} \boldsymbol{f}(\boldsymbol{x}), \quad \lambda \mathop{\rm rot} \boldsymbol{v}= \mathop{\rm rot} \boldsymbol{f}(\boldsymbol{x}), \quad \boldsymbol{x}\in G. $$ Соединяя их в систему, видим, что операторы \begin{equation} \label{eqno:(2.3)} \left(\begin{matrix} \mathop{\rm rot}+\lambda I \lambda \mathop{\rm div} \end{matrix}\right)\quad \text{и}\quad \left( \begin{matrix} \nabla\mathop{\rm div}+\lambda I \lambda \mathop{\rm rot} \end{matrix}\right) \end{equation} являются эллиптическими по Даглису--~Ниренбергу [11]. Значит, они принадлежат классу [REES~1] систем дифференциальных уравнений, приводимых к~эллиптическим системам на первом шаге расширений Б.~Вайнберга и В.~Грушина 16.\hyperlink{Foot:5}{$^3$} \footnotetext{\hypertarget{Foot:5}{$^3$} Другие классы обобщенно эллиптических операторов см. в~работе [20].} \smallskip \Section[n] {2.3. Обобщенно эллиптическая краевая задача} Рассмотрим подробнее первую из них. Расширенная система \begin{equation} \label{eqno:(2.4)} \mathop{\rm rot} \boldsymbol{u}+\lambda \boldsymbol{u}= \boldsymbol{f},\quad \lambda \mathop{\rm div} \mathbf{ u}=\mathop{\rm div} \boldsymbol{f}, \end{equation} является эллиптической системой первого порядка (переопределенной, если $f_4\neq \mathop{\rm div} \boldsymbol{f}$). Вместе с краевым условием $\gamma\, \boldsymbol{n}\cdot \boldsymbol{u}=g$ она составляет эллиптическую краевую задачу по Солонникову [11]. Это означает, что \begin{itemize} \item[1)] система \eqref{eqno:(2.4)} эллиптична;\hyperlink{Foot:6}{$^4$} \footnotetext{\hypertarget{Foot:6}{$^4$} Главные части системы в~[11] определяются с~помощью весов $s_k$ и $t_j$ таких, что $\mathop{\rm ord} L_{k,j}\leq s_k+t_j$. Положив $s_k=0$ при $k=1, 2, 3, 4$ и $t_j =1$ при $j=1, 2, 3$, мы получим операторы системы \eqref{eqno:(2.4)}, а в~краевом операторе положим $\sigma_1=-1$.} \item[ 2)] краевое условие $\gamma\, \boldsymbol{n}\cdot \boldsymbol{u}$ \ ``накрывает'' оператор системы. \end{itemize} Первое условие сводится к тому, что однородная система линейных алгебраических уравнений \begin{equation} \label{eqno:(2.5)} \mathop{\rm rot}(i\boldsymbol \xi )\boldsymbol{w}=0, \quad \lambda \mathop{\rm div}(i\boldsymbol \xi )\boldsymbol{w}=0, \quad \forall \, \boldsymbol \xi\neq 0 \end{equation} c параметром $\boldsymbol \xi \in \mathbb{R}^3$ имеет только тривиальное решение $ \boldsymbol{w}=0$. Второе условие означает, что однородная система линейных дифференциальных уравнений \begin{equation} \label{eqno:(2.6)} \mathop{\rm rot}\Bigl(i\boldsymbol \tau+\boldsymbol{n} \frac d{dz} \Bigr) \boldsymbol{v}=0,\quad \mathop{\rm div}\Bigl(i\boldsymbol \tau+\boldsymbol{n} \frac d{dz} \Bigr) \boldsymbol{v}=0, \quad \forall\, \boldsymbol \tau \neq 0 \end{equation} на полуоси $z\geq 0$ с краевым условием $$ \boldsymbol{n}\cdot \boldsymbol{v}|_{ z=0}=0 $$ и убыванием $\boldsymbol{v}(y, \boldsymbol \tau; z )\to 0$ при $z\to + \infty$ имеет только тривиальное решение. Здесь $\boldsymbol \tau$ и $\boldsymbol{n}$ --- касательный и нормальный векторы к $\Gamma$ в точке $y\in \Gamma$ и~$|\boldsymbol{n}|=1$. При доказательстве этих утверждений используется соотношение $$ \mathop{\rm rot} \mathop{\rm rot} \boldsymbol{v}= -\Delta \boldsymbol{v} + \nabla \mathop{\rm div} \boldsymbol{v}. $$ Тогда \begin{itemize} \item[$1^\circ$.] Из уравнений \eqref{eqno:(2.5)} вытекает уравнение $-\Delta(i\boldsymbol \xi)\boldsymbol{w}=0$. Оно распадается на три скалярных уравнения $|\boldsymbol \xi | ^2 w_j =0$. Значит, $\boldsymbol{w}=0$ при $|\boldsymbol \xi | \neq 0$. Эллиптичность системы \eqref{eqno:(2.4)} доказана. \item[$2^\circ$.] Из уравнений \eqref{eqno:(2.6)} получаем уравнение $ \bigl(-|\boldsymbol \tau| ^2 + (\frac d{dz})^2\bigr)\boldsymbol{v} = 0$ с параметром $|\boldsymbol \tau |> 0$. Его убывающее при $z\to + \infty$ решение имеет вид $\boldsymbol{v}=\boldsymbol{w} e^{-|\boldsymbol \tau|z}$. Оно удовлетворяет уравнениям \eqref{eqno:(2.6)}, если вектор=функция $\boldsymbol{w}$ такова, что $ \boldsymbol{\omega } \times \boldsymbol{w}=0$, $ \boldsymbol{\omega }' \cdot \boldsymbol{w}=0$, где $ \boldsymbol{\omega } \equiv i \boldsymbol \tau -| \boldsymbol \tau| \boldsymbol{n}$ --- вектор=столбец, $ \boldsymbol{\omega }'$ --- вектор=строка, а $ \boldsymbol{\omega }' \cdot \boldsymbol{\omega } $ --- их произведение. \end{itemize} Легко убедиться, что векторное и ``скалярное'' произведения $\boldsymbol{\omega }$ на $\boldsymbol{\omega }$ равны нулю: $\boldsymbol{\omega } \times \boldsymbol{\omega }=0,$ $\boldsymbol{\omega }'\cdot\boldsymbol{\omega }=0$. Ранг матрицы $\mathop{\rm rot} (i \boldsymbol\xi )$ равен двум при $\boldsymbol\xi \neq 0$, поэтому $\boldsymbol{w}=c \boldsymbol{\omega}$, где $c$ --- постоянная, и других решений нет. Граничное условие приводит к уравнению $|\boldsymbol\tau |\, c=0$. Значит, $c=0$ при $|\boldsymbol\tau| > 0$ и, следовательно, $\boldsymbol{v}=0$. Итак, система \eqref{eqno:(2.4)} с~краевым условием $\boldsymbol{n}\cdot \boldsymbol{u}|_{\Gamma }=g$ при $\lambda\neq 0$ --- эллиптическая задача. Будем говорить при этом, что задача \eqref{eqno:(2.1)} при $\lambda\neq 0$ является {\it обобщенно эллиптической}. Обобщенная эллиптичность задачи \eqref{eqno:(2.2)} доказана в~[19]. \smallskip \Section[n] {2.4. Операторы задач (\ref{eqno:(2.1)}) и (\ref{eqno:(2.2)}) в пространствах ${\mathbf{H}^{\boldsymbol s}}(\boldsymbol G)$} Пусть вектор=функция $\boldsymbol{u}$ принадлежит пространству Соболева ${\mathbf{H}^{s+1}}$, где $s\geq 0$ --- целое. Тогда компоненты $\mathop{\rm rot} \boldsymbol{u}$ и $\mathop{\rm div} \boldsymbol{u}$ принадлежат ${H}^{s}(G)$, а~вектор=функция $\boldsymbol{f}:=\mathop{\rm rot} \boldsymbol{u}+ \lambda \boldsymbol{u}$ принадлежит пространству \begin{equation} \label{eqno:(2.7)} {\mathbf{E}^{s}}(G)=\{\boldsymbol{f}\in {\mathbf{H}^{s}}: \mathop{\rm div} \boldsymbol{f}\in {H}^{s}\}, \quad \|\boldsymbol{v}\|_{\mathbf{E}^{s}}=( \|\boldsymbol{v}\|^2_{s }+ \|\mathop{\rm div}\boldsymbol{v}\|^2_{s})^{1/2}. \end{equation} Функция $g:=\gamma({\boldsymbol{n}}\cdot\boldsymbol{u})\equiv\boldsymbol{n} \cdot\boldsymbol{u}|_{\Gamma}$ принадлежит пространству Соболева--~Слободецкого $H^{s+1/2}(\Gamma)$. Следовательно, %при $\lambda\neq 0$ задаче \eqref{eqno:(2.1)} соответствует ограниченный оператор \begin{equation} \label{eqno:(2.8)} \mathbb{A}\boldsymbol{u}\equiv\left( \begin{matrix} \mathop{\rm rot} +\lambda I \gamma \, \boldsymbol{n} \cdot {} \end{matrix}\right)\boldsymbol{u}: \mathbf{H}^{s+1}(G) \to \left( \begin{matrix}\mathbf{E}^{s}(G) H^{s+1/2}(\Gamma)\end{matrix}\right), \end{equation} а эллиптической задаче $ \gamma \, \boldsymbol{n}\cdot \boldsymbol{u}=g$ для расширенной системы \eqref{eqno:(2.4)} соответствует оператор \begin{equation} \label{eqno:(2.9)} \mathbb{A}_R\boldsymbol{u}\equiv\left( \begin{matrix} \mathop{\rm rot} +\lambda I \lambda \mathop{\rm div} \gamma \, \boldsymbol{n}\cdot {} \end{matrix}\right)\boldsymbol{u}: \mathbf{H}^{s+1}(G) \to \left( \begin{matrix}\mathbf{H}^{s}(G) H^s(G) H^{s+1/2}(\Gamma)\end{matrix}\right). \end{equation} Аналогично, задаче \eqref{eqno:(2.2)} соответствует ограниченный оператор \begin{equation} \label{eqno:(2.10)} \mathbb{B}\boldsymbol{u}\equiv \left( \begin{matrix} \nabla \mathop{\rm div} +\lambda I \gamma \, \boldsymbol{n} \cdot {} \end{matrix}\right)\boldsymbol{u}: \mathbf{H}^{s+2}(G) \to \left( \begin{matrix}\mathbf{F}^{s}(G) H^{s+3/2}(\Gamma)\end{matrix}\right), \end{equation} \[\mathbf{F}^{s}=\{\boldsymbol{f}\in {\mathbf{H}^{s}}: \mathop{\rm rot} \boldsymbol{f}\in {H}^{s+1}\}, \quad \|\boldsymbol{v}\|_{\textbf{F}^{s}}=( \|\boldsymbol{v}\|^2_{s }+ \|\mathop{\rm rot}\boldsymbol{v}\|^2_{s+1})^{1/2}, \] а расширенный эллиптический оператор имеет вид \begin{equation} \mathbb{B}_R\boldsymbol{u}\equiv\left( \begin{matrix} \nabla \mathop{\rm div} +\lambda I \lambda \mathop{\rm rot} \gamma \, \boldsymbol{n}\cdot {} \end{matrix}\right)\boldsymbol{u}: \mathbf{H}^{s+2}(G) \to \left( \begin{matrix}\mathbf{H}^{s}(G) \mathbf{H}^{s+1}(G) H^{s+3/2}(\Gamma)\end{matrix}\right). \end{equation} %эллиптичен по Солонникову. Таким образом, краевые задачи \eqref{eqno:(2.1)} и \eqref{eqno:(2.2)} являются обобщенно эллиптическими, а операторы $\mathbb{A}_R$ и $ \mathbb{B}_R$ являются {\it эллиптическими по Солонникову}~[11]. Из [11, Теорема~1.1] следуют теоремы~\hyperlink{saks:th1}{1} и \hyperlink{saks:th2}{2} (см.~п.~\hyperlink{S1.4}{1.4}). Область $G$ ограничена гладкой границей. \smallskip \Section[n] {2.5. Спектральные задачи операторов $ \text{rot}$ и $\nabla\,\text{div}$} Они состоят в~нахождении ненулевых вектор=функций (полей) $\boldsymbol{u}$ и $\boldsymbol{v}$ и чисел $\lambda$ и $\mu$ таких, что \begin{gather} \label{eqno:(2.11)} ~~~~~ \mathop{\rm rot} \boldsymbol{u}=\lambda \boldsymbol{u}(\boldsymbol{x}), \quad \boldsymbol{x}\in G, \quad \gamma \, \boldsymbol{n}\cdot \boldsymbol{u}=0, \quad \boldsymbol{u}\in \mathcal{C}^1(G)\cap \mathcal{C}(\overline{G}), \label{eqno:(2.13)} -\nabla \mathop{\rm div}\boldsymbol{v}=\mu \boldsymbol{v}(\boldsymbol{x}), \quad \boldsymbol{x}\in G, \quad \gamma \, \boldsymbol{n}\cdot \boldsymbol{v}=0, \quad \boldsymbol{v}\in \mathcal{C}^2(G)\cap \mathcal{C}(\overline{G}). \end{gather} Из теорем~\hyperlink{saks:th1}{1}, \hyperlink{saks:th2}{2} и оценок вытекают полезные свойства решений {\it спектральных задач} операторов ротора и~градиента дивергенции: \begin{itemize} \item[а)] \hypertarget{saks:a}{}{\it ненулевые собственные значения} имеет конечную кратность; \item[б)] \hypertarget{saks:b}{}соответствующие им {\it обобщенные собственные функции} бесконечно дифференцируемы вплоть до границы области, то есть поля $\boldsymbol{u}_{\lambda}(\boldsymbol{x})$ и~$\boldsymbol{v}_{\mu}(\boldsymbol{x}) \in \mathcal{C}^{\infty}(\overline{G})$ при $\lambda\ne 0$ и $\mu\ne 0$. \end{itemize} \smallskip {\small\sc Замечание. }{\small Автору в~работе [17] удалось найти формулы решений спектральной задачи \eqref{eqno:(2.11)} в~шаре благодаря идее сведения задачи \eqref{eqno:(2.1)} к~задаче Дирихле для уравнения Гельмгольца\hyperlink{Foot:7}{$^5$}\footnotetext{\hypertarget{Foot:7}{$^5$} Ее осуществил под руководством автора выпусник НГУ 1971~года А.~А.~Фурсенко. В~своей дипломной работе ``Краевая задача для одной равномерно неэллиптической системы'' он решил задачу \eqref{eqno:(2.1)} в~шаре в~классах Гельдера. } и учебнику Владимирова [18]. Поля $\boldsymbol{u}^{\pm}_{\kappa}$, отвечающие ненулевым значениям ротора $\pm\lambda_{\kappa}=\pm\rho_{n,m} R^{-1}$, выражаются через сферические функции и функции $\psi_n(z)$, см. \eqref{eqno:(1.18)}, % \begin{equation*}\klabel{psi__1_} % \psi_n(z)=(-z)^n\left(\frac{d}{zdz}\right)^n\frac{\sin % z}z, \eqno{(2.13)}\end{equation*} где $ \kappa =(n,m,k)$, $n$, $m\in \mathbb{N}$, $|k|\leq n$, а~числа $\pm\rho_{n,m}$ --- нули функций $\psi_n (r)$. Поля $\boldsymbol{q}_{\kappa}$ со значениями $-\nu_{\kappa}^2$, где $\nu_{\kappa}=\alpha_{n,m} R^{-1}$, определяются решениями задачи Неймана; $\alpha_{n,m}$ --- нули производных $\psi'_n(r)$, $ n\geq 0 $. Поля $\{\boldsymbol{u}^{+}_{\kappa}\}\cup\{\boldsymbol{u}^{-}_{\kappa}\}\cup \{\boldsymbol{q}_{\kappa}\}$ образуют базис в $\mathbf{L}_{2}(B)$.} \smallskip \hypertarget{S3}{} \phantomsection% \clear \setcounter{equation}{0} \renewcommand{\theequation}{3.\arabic{equation}} \centerline{\textbf{3. Класс $\textbf{V}^{\bf 0}$ и его подпространства $\mathbf{W}^{\boldsymbol k}$}} \smallskip Другой путь решения задачи \eqref{eqno:(2.1)} открылся после обнаружения важных свойств \hyperlink{saks:a}{а}) и~\hyperlink{saks:b}{б}) решений спектральной задачи \eqref{eqno:(2.11)} и работы Z.~Yoshida и~Y.~Giga [9]. Они ввели оператор $S:\textbf{W}^{1}\to \textbf{V}^{0}$ в пространстве $ \textbf{V}^{0}$ с~областью определения $ \mathbf{W}^{1}$, который совпадает с~$\mathop{\rm rot}\boldsymbol{u}$, если $\boldsymbol{u}\in \mathbf{W}^{1}$, и доказали, что {\it оператор $S$ самосопряжен в} $\textbf{V}^{0},$ {\it имеет точечный спектр $\sigma_p(S)\subset\mathbb{R},$ а его собственные поля образуют в}~$\textbf{V}^{0}$ {\it полный ортогональный базис}. \Section[n] {3.1. Свойства собственных полей ротора. Построение базиса в~$ \textbf{V}^{\bf0}$} Поля $\boldsymbol{u}_{\lambda}(\boldsymbol{x})$ принадлежат пространствам $\mathbf{W}^1(G)\cap \mathcal{C}^\infty(\overline{G})$. Из соотношения %\newline $ (\mathop{\rm rot}+\lambda {I}) (\mathop{\rm rot}- \lambda { I})\mathbf{ u}=- \Delta \boldsymbol{u} +\nabla \mathop{\rm div} \mathbf{ u}-\lambda^2 \mathbf{ u}$ и определения пространства $\textbf{V}^0(G)$ видим, что собственные поля ротора $\boldsymbol{u}^{\pm}_{\lambda}$, отвечающие значениям $\pm\lambda\ne 0 $, являются также собственными полями оператора Лапласа: \begin{equation} \label{eqno:(3.1)} -\Delta \boldsymbol{u}=\lambda^{2}\boldsymbol{u},\quad \mathop{\rm div} \boldsymbol{u}=0, \quad \boldsymbol{n}\cdot \boldsymbol{u}|_{\Gamma}=0. \end{equation} Множество собственных значений $\mu=\lambda^2$ этого оператора счетно, положительно и каждое из них имеет конечную кратность. Перенумеруем их в~порядке возрастания: $0<\mu_1\leq \mu_2\leq \dots$, повторяя $ \mu_k$ столько раз, какова его кратность. Соответствующие вектор=функции обозначим через $\boldsymbol{u}_{1}^{\pm}$, $\boldsymbol{u}_{2}^{\pm}$, \dots, так, чтобы каждому значению $\pm\sqrt{\mu_{k}}$ соответствовала только одна функция~$\boldsymbol{u}_{k}^{\pm}$: $\mathop{\rm rot} \boldsymbol{u}_{k}^{\pm}=\pm\sqrt{\mu_k} \boldsymbol{u}_{k}^{\pm}$, $k=1, 2, \dots$. Собственные функции, соответствующие одному и тому же собственному значению, выберем ортонормальными, используя процесс ортогонализации Шмидта (см. [18]). Поля, соответствующие различным с.- значениям, ортогональны. Их нормируем. Нормированные собственные поля ротора обозначим через $\boldsymbol{q}^{\pm}_{j}$, норма $\|\boldsymbol{q}^{\pm}_{j}\|=1$. Они составляют полный ортонормированный базис $B^{\pm}$ в классе $\textbf{V}^0$ вихревых полей в $\mathbf{L}_2(G)$. \smallskip \Section[n] {3.2. Ряды Фурье в $\textbf{V}^{\bf 0}$} Проекция вектор-функции $\boldsymbol{f}$ из $\mathbf{L}_2(G)$ на $\textbf{V}^0$ имеет вид \begin{equation} \label{eqno:(3.2)} \boldsymbol{f}_{\textbf{v}}=\sum_{j=1}^{\infty} \bigl[(\boldsymbol{f},\boldsymbol{q}^{+}_{j})\boldsymbol{q}^{+}_{j}+ (\boldsymbol{f},\boldsymbol{q}^{-}_{j})\boldsymbol{q}^{-}_{j} \bigr]. \end{equation} Действительно, частичные суммы $\boldsymbol{f}^n_{\textbf{v}}$ этого ряда состоят из элементов, для которых $0<\lambda_j\leq N(n)$: \begin{equation} \label{eqno:(3.3)} \boldsymbol{f}^n_{\textbf{v}}=\sum_{j=1}^{n} \bigl[ (\boldsymbol{f},\boldsymbol{q}^{+}_{j}) \boldsymbol{q}^{+}_{j}+ (\boldsymbol{f},\boldsymbol{q}^{-}_{j}) \boldsymbol{q}^{-}_{j} \bigr], \quad \|\boldsymbol{f}^n_{\textbf{v}}\|^2 \leq \|\boldsymbol{f}\|^2 , \end{equation} проекции $(\boldsymbol{f}-\boldsymbol{f}^n_{\textbf{v}},\boldsymbol{q}^{\pm}_{j} )=0$, если %\,$\mathop{\rm rot} \boldsymbol{q}^{\pm}_{j}= %\pm\lambda_j\boldsymbol{q}^{\pm}_{j}$, $0<\lambda_j\leq N(n) $, и $$ \|\boldsymbol{f}_{\textbf{v}}-\boldsymbol{f}^n_{\textbf{v}}\|^2= \|\boldsymbol{f}_{\textbf{v}}\|^2-\|\boldsymbol{f}^n_{\textbf{v}}\|^2 \to 0 \quad \text{при} \quad n\to\infty. $$ По построению $\boldsymbol{f}^n_{\textbf{v}}\in \mathcal{C}^{\infty}(\overline{G})$, % \quad $\mathop{\rm div}\boldsymbol{f}^n_{\textbf{v}}=0$, $\gamma_{\boldsymbol{n}}\boldsymbol{f}^n_{\textbf{v}}=0$ и~при любом $n$ поле $\boldsymbol{f}^n_{\textbf{v}}\bot \mathop{\rm Ker}(\mathop{\rm rot})$ в~$\mathbf{L}_2(G)$. Значит, $(\boldsymbol{f}^n_{\textbf{v}}, \nabla h)=0$ для любой функции $h\in H^1(G)$. Переходя к пределу, получим $(\boldsymbol{f}_{\textbf{v}}, \nabla h)=0$, то есть вектор $\boldsymbol{f}_{\textbf{v}} {\perp} \mathcal{A}\subset \mathop{\rm Ker}(\mathop{\rm rot})$. %$ ортогонален пространству $ Вектор $\boldsymbol{f}_{\textbf{V}}$ Он принадлежит $\textbf{V}^0\!$, если пространство $\mathcal{B}_H{\subset} \mathop{\rm Ker}(\mathop{\rm rot})$ пусто. \mbox{В~общем случае} %{\color{red} (пояснить, что такое $\mathop{\rm Ker}(\mathbf{rot})$)} \begin{equation} \label{eqno:(3.4)} \boldsymbol{f}_{\textbf{v}}\in \textbf{V}^0 \quad \Leftrightarrow \quad (\boldsymbol{f}_{\textbf{v}},\boldsymbol{h}_{i})= 0\quad \forall\, i=1, 2, \dots, \rho. \end{equation} Так как $$ \mathop{\rm rot} (\boldsymbol{f}^n_{\textbf{v}})= \sum_{j=1}^{n}\lambda_j \bigl[ (\boldsymbol{f},\boldsymbol{q}^{+}_{j})\boldsymbol{q}^{+}_{j}- (\boldsymbol{f},\boldsymbol{q}^{-}_{j})\boldsymbol{q}^{-}_{j} \bigr] $$ и суммы $\boldsymbol{f}^n_{\textbf{v}}$\,\,и $\mathop{\rm rot} (\boldsymbol{f}^n_{\textbf{v}})$ принадлежат $\textbf{V}^{0}$, то $\boldsymbol{f}^n_{\textbf{v}}\in\mathbf{W}^{1}$ --- области определения оператора $S$. {\it По определению$,$ $S\boldsymbol{w}=\mathop{\rm rot}\boldsymbol{w}$ для любого $\boldsymbol{w}\in \mathbf{W}^{1}$}. Следовательно \begin{equation} \label{eqno:(3.5)} S\boldsymbol{f}_{\textbf{v}}= \lim_{n\to\infty} \mathop{\rm rot} (\boldsymbol{f}^n_{\textbf{v}})= \sum_{j=1}^{\infty} \lambda_j \bigl[(\boldsymbol{f},\boldsymbol{q}^{+}_{j})\boldsymbol{q}^{+}_{j}- (\boldsymbol{f},\boldsymbol{q}^{-}_{j})\boldsymbol{q}^{-}_{j} \bigr], \end{equation} если ряд сходится и принадлежит $\textbf{V}^{0}$. Ясно, что $S\boldsymbol{f}_{\textbf{v}}\in\textbf{V}^{0}$, если \begin{equation} \label{eqno:(3.6)} f\in\mathbf{H}^1(G), \quad (\boldsymbol{f}_{\textbf{v}},\boldsymbol{h}_{i})=0\quad \text{и}\quad (S\boldsymbol{f}_{\textbf{v}},\boldsymbol{h}_{i})=0 \quad \forall \, i=1, 2, \dots, \rho. \end{equation} В [9, § 3, с. 240] доказано, что оператор $S$ замкнут. Следовательно, предел $S\boldsymbol{f}_{\textbf{v}}$ {\it не зависит от выбора в} $\textbf{V}^0$ {\it последовательности} $ \boldsymbol{w}_n \to \boldsymbol{f}_{\textbf{v}}$. \smallskip \Section[n] {3.3. Подпространства $\textbf{V}^{\bf 0}$} Ранее были введены пространства \begin{equation} \label{eqno:(3.7)} \mathbf{W}^{k}(G)= \{\boldsymbol{f}\in\textbf{V}^{0}(G), \dots , \mathop{\rm rot}\nolimits^k \boldsymbol{f}\in\textbf{V}^{0}(G) \}\quad \forall\, k\geq 1. \end{equation} Вложение $\mathbf{W}^1\subset\mathbf{H}^{1}(G)$ вытекает из оценки \eqref{eqno:(1.4)} при $s=0$: \begin{equation} \label{eqno:(3.8)} C_0\|\boldsymbol{f} \|_1\leq \| \mathop{\rm rot} \boldsymbol{f} \|+\|\boldsymbol{f} \| , \quad C_0>0. \end{equation} По индукции $\mathbf{W}^k\subset\mathbf{H}^{k}(G)$. Очевидно, что $\mathbf{W}^k\subset \dots \subset \mathbf{W}^1\subset \textbf{V}^{0}.$ При $n<\infty$ ряды $\boldsymbol{f}^n_{\textbf{V}}$ принадлежат любому из этих пространств. Оператор $S$ отображает $\mathbf{W}^{k}$ на $\mathbf{W}^{k-1}$ при $k>1$, а $\mathbf{W}^{1}$ на $\mathbf{W}^{0}\equiv \textbf{V}^{0}$. Пространство $\textbf{V}^{0}$ ортогонально ядру ротора в $\mathbf{L}_{2}(G)$, поэтому $S$ имеет единственный обратный оператор $S^{-1}$, определенный на $\textbf{V}^{0}$: \begin{equation} \label{eqno:(3.9)} S^{-1}\boldsymbol{f}_{\textbf{V}}=\lim_{n \to \infty} S^{-1} (\boldsymbol{f}^{n}_{\textbf{V}})= \sum_{j=1}^{\infty}\lambda_j^{-1} \bigl[ (\boldsymbol{f},\boldsymbol{q}^{+}_{j})\boldsymbol{q}^{+}_{j}- (\boldsymbol{f},\boldsymbol{q}^{-}_{j})\boldsymbol{q}^{-}_{j} \bigr]. \end{equation} В [9] доказано, что оператор $S^{-1}$ компактен. \smallskip {\small\sc Следствие. }{\it Спектр оператора $S^{-1}$ точечный с единственной точкой накопления в нуле$,$ $\lambda^{-1}_j \to 0$ при ${j \to \infty}.$} \smallskip Очевидно, что оператор $S^{-1}:\textbf{V}^{0} \to \mathbf{W}^{1}$ и %так далее, $S^{-1}:\mathbf{W}^{k-1} \to \mathbf{W}^{k}$. \smallskip \hypertarget{S3.4}{} \Section[n] {3.4. Полнота пространства $\textbf{V}^{\bf 0}$} В~базисе из собственных функций ротора скалярное произведение векторов $\boldsymbol{f},\boldsymbol{g}\in \textbf{V}^{0}$ имеет вид \begin{equation} \label{eqno:(3.10)} ( \boldsymbol{f},\boldsymbol{g})= \lim_{n \to \infty} ( \boldsymbol{f}_{\textbf{v}}^n, \boldsymbol{g}_{\textbf{v}}^n)= \sum_{j=1}^{\infty} \bigl[(\boldsymbol{f},\boldsymbol{q}_{j}^+)(\boldsymbol{g},\boldsymbol{q}_{j}^+) +(\boldsymbol{f},\boldsymbol{q}_{j}^-)(\boldsymbol{g},\boldsymbol{q}_{j}^-)\bigr]. \end{equation} Согласно Владимирову [18], ортонормальная система $\{\boldsymbol{q}_{j}^+\}\cup \{ \boldsymbol{q}_{j}^-\}_{j=1,2,\dots}$ полна в~$\textbf{V}^{0}$, если для любой $\boldsymbol{f}\in \textbf{V}^{0}$ ее ряд \eqref{eqno:(3.2)} сходится к~$\boldsymbol{f}$ в~$\mathbf{L}_{2}(G)$. По [18, § 1.9, Теорема 1] эта система полна в~$\textbf{V}^{0}$ тогда и только тогда, когда для любой функции $\boldsymbol{f}\in \textbf{V}^{0}$ выполняется равенство Парсеваля--~Стеклова, которое называется уравнением замкнутости: \begin{equation} \label{eqno:(3.11)} \sum_{j=1}^{\infty} \bigl[(\boldsymbol{f}, \boldsymbol{q}^{+}_{j})^2+(\boldsymbol{f},\boldsymbol{q}^{-}_{j})^2\bigr]= \|\boldsymbol{f}\|^2. \end{equation} Пространство $\mathbf{W}^1$ плотно в $\textbf{V}^{0}$, так как множество $\mathbf{C}_0^{\infty}(G) \cap\textbf{V}^{0}$, плотное в $\textbf{V}^{0}$, содержится в $\mathbf{W}^1$. Квадрат нормы $\boldsymbol{f}\in\mathbf{C}_0^{\infty}(G)\cap\textbf{V}^{0}$ ограничен: \begin{multline*} \|\boldsymbol{f}\|^2_{\mathbf{W}^1}=\|\boldsymbol{f}\|^2+ \|\mathop{\rm rot}\boldsymbol{f}\|^2= \sum_{j=1}^{\infty} (1+{\lambda}_{j}^2) \bigl[(\boldsymbol{f}, \boldsymbol{q}^{+}_{j})^2+(\boldsymbol{f},\boldsymbol{q}^{-}_{j})^2 \bigr]<\infty \Rightarrow \lim_{n \to \infty} \|\boldsymbol{f}^n_{\textbf{V}}\|^2= \sum_{j=1}^{\infty} \bigl[ (\boldsymbol{f}, \boldsymbol{q}^{+}_{j})^2+(\boldsymbol{f},\boldsymbol{q}^{-}_{j})^2\bigr]= \|\boldsymbol{f}\|^2. \end{multline*} Полнота пространства $\textbf{V}^{0}$ доказана. \smallskip \hypertarget{S3.5}{} \Section[n] {3.5. Самосопряженность оператора $\boldsymbol S$} Действительно, если $\boldsymbol{f}$ и $\boldsymbol{g}$ принадлежат $\mathbf{W}^1$, то имеют место равенства \begin{equation} \label{eqno:(3.12)} ( S \boldsymbol{f}, \boldsymbol{g})= (\boldsymbol{f}, S \boldsymbol{g})= \sum_{j=1}^{\infty} {\lambda}_{j} \big[ (\boldsymbol{f},\boldsymbol{q}_{j}^+)(\boldsymbol{g},\boldsymbol{q}_{j}^+) -(\boldsymbol{f},\boldsymbol{q}_{j}^-)(\boldsymbol{g},\boldsymbol{q}_{j}^-) \big]. \end{equation} Отметим, что равенство \[ \int_G (\mathop{\rm rot} \boldsymbol{u})\cdot \boldsymbol{v} \, d\boldsymbol{x}= \int_{G}\boldsymbol{u}\cdot (\mathop{\rm rot} \boldsymbol{v}) \, d \boldsymbol{x} \] % \eqno{(3.13)} для любых функций $\boldsymbol{u}$ и $\boldsymbol{v}$ из $\mathcal{D}(S)$ доказано в~[9], а~в~случае шара --- в~[17]. Также в [9] доказано, что оператор $S$ самосопряжен. \smallskip \Section[n] {3.6. Фредгольмовость оператора $\boldsymbol S+ \boldsymbol \lambda \boldsymbol I:\mathbf{W}^{1} \to \textbf{V}^{\bf 0}$} Действительно, по определению, оператор $ S+\lambda I$ совпадает с $\mathop{\rm rot}+\lambda I$ на $\mathbf{W}^{1}$. При $\boldsymbol{f}\in \mathbf{W}^{1}$ \[(S+\lambda I)\boldsymbol{f}=\lim_{n \to \infty} (\mathop{\rm rot}+\lambda I) (\boldsymbol{f}^n_{\textbf{V}}) = \sum_{j=1}^\infty \bigl[(\lambda+\lambda_j)(\boldsymbol{f},\boldsymbol{q}^{+}_{j})\boldsymbol{q}^{+}_{j}+ (\lambda-\lambda_j)(\boldsymbol{f},\boldsymbol{q}^{-}_{j})\boldsymbol{q}^{-}_{j}\bigr] \] и ряд сходится в $\mathbf{L}_{2}(G)$, поскольку \begin{multline} \label{eqno:(3.13)} \| (S+\lambda I)\boldsymbol{f}\|^2_{ \textbf{V}^0}=\sum_{j=1}^\infty \bigl[ |\lambda+\lambda_j|^2(\boldsymbol{f},\boldsymbol{q}^{+}_{j})^2+|\lambda-\lambda_j|^2(\boldsymbol{f},\boldsymbol{q}^{-}_{j})^2 \bigr]\leq \leq c^2_0\sum_{j=1}^{\infty} (1+{\lambda}_{j}^2) \bigl[ (\boldsymbol{f}, \boldsymbol{q}^{+}_{j})^2+(\boldsymbol{f},\boldsymbol{q}^{-}_{j})^2\bigr]= c^2_0 \|\boldsymbol{f}\|^2_{\mathbf{W}^1}; \end{multline} \begin{equation} \label{eqno:(3.14)} c^2_0 = \max _j (a_j^+, a_j^-)~~~ \text{и} ~~~ a_j^{\pm }= |1\pm \lambda/\lambda_j|^2/(1+1/{\lambda}_{j}^2) <\infty, \end{equation} так как при больших $\lambda_{j}$ они находятся в окрестности единицы. Обратный оператор имеет вид \begin{equation} \label{eqno:(3.15)} (S+\lambda I)^{-1}\boldsymbol{f}= \sum_{j=1}^{\infty} \biggl[ \frac{(\boldsymbol{f},{\boldsymbol{q}}_{j}^+)}{\lambda+\lambda_{j}} \boldsymbol{q}_{j}^+(\boldsymbol{x})+ \frac{(\boldsymbol{f},{\boldsymbol{q}}_{j}^-)}{\lambda-\lambda_{j}} \boldsymbol{q}_{j}^-(\boldsymbol{x}) \biggr], \end{equation} если ни одно из слагаемых этого ряда не обращается в~бесконечность. Это означает, что либо $\lambda\pm \lambda_{j}\neq 0$ для всех $j$, либо $(\boldsymbol{f},\boldsymbol{q}^{-}_{j})=0$, если $\lambda=\lambda_j=\lambda_{j_0}$ и~функция $\boldsymbol{f}$ ортогональна всем собственным полям $\boldsymbol{q}^{-}_{j}(\boldsymbol{x})$ ротора, отвечающим собственному значению $\lambda_{j_0}$. При этом \begin{gather} \|(S+\lambda I)^{-1}\boldsymbol{f}\|^2_{\mathbf{W}^1}= \sum_{j=1}^{\infty} \biggl[ \frac{(1+ \lambda_{j}^2)}{|\lambda+\lambda_{j}|^2}(\boldsymbol{f},{\boldsymbol{q}}_{j}^+)^2+\frac{(1+ \lambda_{j}^2)}{|\lambda-\lambda_{j}|^2}(\boldsymbol{f},{\boldsymbol{q}}_{j}^-)^2\biggr] \leq C^2_0 \|\boldsymbol{f}\|^2_{\textbf{V}^0}, C^2_0 = \max _j (A_j^+, A_j^-) ~~~ \text{и} ~~~ A_j^{\pm }= (1+1/{\lambda}_{j}^2) /|1\pm \lambda/\lambda_j|^2<\infty. \label{eqno:(3.16)} \end{gather} Итак, оба оператора непрерывны и имеет место теорема~\hyperlink{saks:th3}{3} (п.~\hyperlink{S1.5}{1.5}). Аналогично предыдущему видим, что \begin{multline} \label{eqno:(3.17)} \| (S+\lambda I)\boldsymbol{f}\|^2_{ \mathbf{W}^m}= \sum_{j=1}^\infty (1+ \lambda_{j}^{2m}) \bigl[|\lambda+\lambda_j|^2(\boldsymbol{f},\boldsymbol{q}^{+}_{j})^2+|\lambda-\lambda_j|^2(\boldsymbol{f},\boldsymbol{q}^{-}_{j})^2\bigr]\leq \leq c^2_m\sum_{j=1}^{\infty} (1+{\lambda}_{j}^{2(m+1)}) \bigl[(\boldsymbol{f}, \boldsymbol{q}^{+}_{j})^2+(\boldsymbol{f},\boldsymbol{q}^{-}_{j})^2\bigr]= c^2_m \|\boldsymbol{f}\|^2_{\mathbf{W}^{m+1}}, \end{multline} \begin{equation} \label{eqno:(3.18)} \|(S+\lambda I)^{-1}\boldsymbol{f}\|^2_{\mathbf{W}^{m+1}}\leq C^2_m \|\boldsymbol{f}\|^2_{\mathbf{W}^{m}}, \quad c_m,\; C_m< \infty . \end{equation} Числа $ c_m$ и $C_m$ при $m=0$ совпадают с \eqref{eqno:(3.14)} и \eqref{eqno:(3.16)}. По определению, ${\mathbf{W}^{0}\equiv \textbf{V}^{0}}$. Из теоремы~\hyperlink{saks:th3}{3} и оценок следует лемма~\hyperlink{saks:lemma1}{1} (п.~\hyperlink{S1.5}{1.5}) о свойствах отображений $(S+\lambda I)$ и~$(S+\lambda I)^{-1}$. Так же доказывается лемма~\hyperlink{saks:lemma2}{2} (п.~\hyperlink{S1.7}{1.7}) о свойствах отображений $( \mathcal{N}_d+\lambda I)$ и~$( \mathcal{N}_d+\lambda I)^{-1}$. \smallskip \Section[n] {3.7. Сходимость ряда Фурье в норме пространства $\mathbf{H}^{\boldsymbol k}(\boldsymbol \Omega)$} %Рассмотрим область $\Omega$, гомеоморфную шару, которую в~\cite{sob54} выделил С.~Л.~Соболев. % В~этом случае пространство $\mathcal{B}_H(\Omega)$ пусто. Границу области $\Omega$ будем предполагать гладкой. %Скалярное произведение %в $\mathbf{H}^k(\Omega)$ Сергей Львович определяет так: %\begin{equation*} \klabel{skpro 1} %(\boldsymbol{f},\boldsymbol{g})_k=(\boldsymbol{f},\boldsymbol{g})+ % \int_{\Omega} \sum_{|\alpha|=k}\frac{k!}{\alpha % !}\partial^{\alpha}\boldsymbol{f}\cdot\partial^{\alpha}\boldsymbol{g} % d \boldsymbol{x},\quad k\geq 1. \eqno{(3.19)} %\end{equation*} % В пространстве $ \mathbf{W}^k(\Omega)= %\{\boldsymbol{f}\in \textbf{V}^0, %..., \mathop{\rm rot}^{k} \boldsymbol{f}\in \textbf{V}^0\}$ %норму $\boldsymbol{f}\in{\mathbf{W}^k}$ выберем так же: %$\|\boldsymbol{f}\|^2_{\mathbf{W}^k}\equiv \|\boldsymbol{f}\|^2+\|\mathop{\rm rot}^k \boldsymbol{f}\|^2$. \quad Приведем {\it д\,о\,к\,а\,з\,а\,т\,е\,л\,ь\,с\,т\,в\,о\,\, т\,е\,о\,р\,е\,м\,ы}~\hyperlink{saks:th4}{4} из п.~\hyperlink{S1.6}{1.6}. %Имеет место Теорема 4 (см. п.1.6). %Доказательство Теоремы 4. Граница $\partial\Omega\in \mathcal{C}^\infty$ и~собственные функции $\boldsymbol{q}_{j}^{\pm}(\boldsymbol{x})$ оператора ротор принадлежат классу $\mathcal{C}^{\infty}(\overline{\Omega})$, а~значит, любому из пространств $\mathbf{W}^l(\Omega)$, $l>0$. Поэтому, если ряд Фурье \eqref{eqno:(1.11)} вектор=функции $\boldsymbol{f}$ из $\mathbf{H}^k(\Omega)$ сходится в норме $\mathbf{H}^k(\Omega)$, то $\boldsymbol{f}\in\textbf{V}^0$, $\dots$, $\mathop{\rm rot}\nolimits^{k} \boldsymbol{f}\in \textbf{V}^0\subset\mathbf{L}_2(\Omega)$ и, значит, $\boldsymbol{f}\in\mathbf{W}^k(\Omega)$. Необходимость доказана. Пусть $\boldsymbol{f}\in \mathbf{W}^k(\Omega)$, где $k\geq 1$. Приведем доказательство неравенства \eqref{eqno:(1.12)}. Так как $S{\boldsymbol{f}}=\mathop{\rm rot} {\boldsymbol{f}}$ на $\mathbf{W}^k\subset \mathbf{W}^1(\Omega)$ и $ S \boldsymbol{q}^{\pm}_{j}={\pm}\lambda_j \boldsymbol{q}^{\pm}_{j}$, то \begin{equation} \label{eqno:(3.20)} (\mathop{\rm rot} {\boldsymbol{f}},\boldsymbol{q}^{\pm}_{j}) = {\pm}\lambda_j({\boldsymbol{f}} ,\boldsymbol{q}^{\pm}_{j}). \end{equation} Пусть $\beta_{k,j}^{\pm}$ коэффициенты Фурье функции $\mathop{\rm rot}\nolimits^k \boldsymbol{f}$. По формуле \eqref{eqno:(3.20)} \begin{equation} \label{eqno:(3.21)} \beta_{k,j}^{\pm}=(\mathop{\rm rot}\nolimits^k \boldsymbol{f}, \boldsymbol{q}^{\pm}_{j})={\pm}\lambda_j(\mathop{\rm rot}\nolimits^{k-1} {\boldsymbol{f}} ,\boldsymbol{q}^{\pm}_{j}) =\dots = ({{\pm}\lambda_j})^{k}( {\boldsymbol{f}} ,\boldsymbol{q}^{\pm}_{j}). \end{equation} Поскольку $\mathop{\rm rot}^k \boldsymbol{f}\in \mathbf{L}_2(\Omega)$, то $$ \sum_{j=1}^{\infty} \bigl[(\beta_{k,j}^+)^2+ (\beta_{k,j}^-)^2\bigr]= \|\mathop{\rm rot}\nolimits^k \boldsymbol{f}\|^2. $$ Итак, для вектор-функций $\boldsymbol{f}\in \mathbf{W}^k(\Omega)$ имеем \begin{equation} \label{eqno:(3.22)} \sum_{j=1}^{\infty} {\lambda}_{j}^{2k} \bigl[(\boldsymbol{f},\boldsymbol{q}_{j}^+)^2 +(\boldsymbol{f},\boldsymbol{q}_{j}^-)^2\bigr]= \|\mathop{\rm rot}\nolimits ^k \boldsymbol{f}\|^2\leq C \|\boldsymbol{f}\|^2_{\mathbf{H}^k(\Omega)}. \end{equation} Последнее неравенство вытекает из определений нормы в $\mathbf{H}^k(\Omega)$. Неравенство \eqref{eqno:(1.12)} доказано. Докажем сходимость ряда \eqref{eqno:(1.11)} к $\boldsymbol{f}$ в норме $\mathbf{H}^k(B)$. Пусть $\boldsymbol{S}_l(\boldsymbol{x})$ --- частичная сумма ряда \eqref{eqno:(1.11)}. Очевидно, что $\mathbf{S}_l(\boldsymbol{x})\in \mathbf{W}^l(\Omega)$ при $l>0$. В частности, $\mathop{\rm div} \boldsymbol{S}_l(\boldsymbol{x})=0$ и $\gamma\, \boldsymbol{n}\cdot\boldsymbol{S}_l(\boldsymbol{x})=0$. Поэтому оценка \eqref{eqno:(1.4)} при $s=0$ принимает вид $ C_1\|\boldsymbol{S}_l\|_{ 1 } \leq\|\mathop{\rm rot} \boldsymbol{S}_l\|+ \|\boldsymbol{S}_l\|.$ Поскольку $\lambda_{j}^{-2} \to 0$ при $j \to \infty$, норма $ \|\boldsymbol{S}_l\|^2\leq c \,\|\mathop{\rm rot}\boldsymbol{S}_l\|^2$, где $c=\max\limits_{j}\lambda_{j}^{-2}$. Поэтому $ \|\boldsymbol{S}_l\|^2_{1} \leq a_1 \|\mathop{\rm rot} \boldsymbol{S}_l\|^2$ и по индукции $ \|\boldsymbol{S}_l\|^2_{k}\leq a_k\|\mathop{\rm rot}\nolimits^k \boldsymbol{S}_l\|^2$. Пусть $\boldsymbol{f}\in \mathbf{W}^k(\Omega)$, где $k>0$. Согласно неравенству \eqref{eqno:(1.12)}, ряды в его левой части сходятся, и если $l>m\geq 1$, то \[ \|\boldsymbol{S}_l-\boldsymbol{S}_m\|^2_{k}\leq a_k\|\mathop{\rm rot}\nolimits^k (\boldsymbol{S}_l-\boldsymbol{S}_m)\|^2 \leq a_k \sum_{m+1}^l\lambda_{j}^{2k} \bigl[|(\boldsymbol{f},\boldsymbol{q}_{j}^+)|^2 +|(\boldsymbol{f},\boldsymbol{q}_{j}^-)|^2\bigr] \to 0 \] при $l$, $m \to \infty$. Это означает, что ряд \eqref{eqno:(1.11)} сходится к~$\boldsymbol{f}$ в~норме $\mathbf{H}^k(B)$. \smallskip {\small\sc Замечание. }{\small Известны вложение пространств $\mathbf{H}^k(\Omega)\subset\mathbf{C}^{k-2}(\overline{\Omega})$ при $k\geq 2$ в~трехмерной области $\Omega$ и оценка $\|\boldsymbol{f}\|_{\mathbf{C}^{k-2}(\overline{\Omega})}\leq C_k\|\boldsymbol{f}\|_{\mathbf{H}^k (\Omega)}$ для любой функции $\boldsymbol{f}\in \mathbf{H}^k (\Omega)$, причем постоянная $C_k>0$ не зависит от $\boldsymbol{f}$ (см., например, [2, Теорема 3, § 6.2]) В частности \begin{equation} \label{eqno:(3.23)} \|\boldsymbol{S}_l-\boldsymbol{S}_m\|_{\mathbf{C}^{k-2}(\overline{\Omega})} \leq C_k \|\boldsymbol{S}_l-\boldsymbol{S}_m\|_{\mathbf{H}^k (\Omega)}. \end{equation} Если $\|\boldsymbol{S}_l-\boldsymbol{S}_m\|_{\mathbf{H}^k (\Omega)} \to 0$ при $l$, $m \to \infty$, то $\|\boldsymbol{S}_l-\boldsymbol{S}_m\|_{\mathbf{C}^{k-2}(\overline{\Omega})} \to 0$. Это означает, что ряд \eqref{eqno:(1.11)} сходится к~$\boldsymbol{f}$ в~$\mathbf{C}^{k-2}(\overline{\Omega})$.} \smallskip Теорема доказана. % \newpage \hypertarget{S4}{} \phantomsection% \clear \setcounter{equation}{0} \renewcommand{\theequation}{4.\arabic{equation}} \centerline{\textbf{4. Краевые задачи в $\mathbf{L}_{\bf 2}(\boldsymbol \Omega)$}} \Section[n] {4.1. Классы $\bf \boldsymbol C(2\boldsymbol k, \boldsymbol m)$ подпространств в $\mathbf{L}_{\bf 2}(\boldsymbol \Omega)$} Предположим, что область $\Omega$ гомеоморфна шару. Если собственные поля $ \boldsymbol{q}_{j}(\boldsymbol{x})$ и $\boldsymbol{q}_{j}^\pm(\boldsymbol{x})$ градиента дивергенции и ротора известны, то элементы $\boldsymbol{f}_\mathcal{A}\in \mathcal{A}$ и $\boldsymbol{f}_\mathbf{V}\in \mathcal{B}=\textbf{V}^0 $ представляются рядами Фурье: \begin{equation} \label{eqno:(4.1)} \boldsymbol{f}_\mathcal{A}= \sum_{j=1}^{\infty} (\boldsymbol{f},{\boldsymbol{q}}_{j}) \boldsymbol{q}_{j }(\boldsymbol{x}), \quad \boldsymbol{f}_\mathbf{V}=\sum_{j=1}^{\infty} \bigl[(\boldsymbol{f},{\boldsymbol{q}}_{j}^{+}) \boldsymbol{q}_{j}^{+}(\boldsymbol{x})+ (\boldsymbol{f},{\boldsymbol{q}}_{j}^{-}) \boldsymbol{q}_{j}^{-}(\boldsymbol{x})\bigr], \end{equation} а элемент $\boldsymbol{f}$ из $\mathbf{L}_2(\Omega)$ --- их суммой $\boldsymbol{f}_\mathcal{A}+\boldsymbol{f}_\mathbf{V}$. Причем $ \mathop{\rm div} \boldsymbol{f}= \mathop{\rm div} \boldsymbol{f}_\mathcal{A}$, а $\mathop{\rm rot} \boldsymbol{f} \hm = \mathop{\rm rot} \boldsymbol{f}_\mathbf{V}$, так как $ \mathop{\rm rot} \boldsymbol{f}_\mathcal{A}=0$ в $\mathcal{A}$ и $\mathop{\rm div} \boldsymbol{f}_\mathbf{V}=0$ в~$\mathcal{B}$. Скалярное произведение $(\boldsymbol{f}, \boldsymbol{g})$ полей $\boldsymbol{f}$, $\boldsymbol{g}$ из $\mathbf{L}_2(\Omega)$ равно $(\boldsymbol{f}_\mathcal{A}, \boldsymbol{g}_\mathcal{A})+(\boldsymbol{f}_\mathbf{V}, \boldsymbol{g}_\mathbf{V})$. Представления операторов $\mathcal{N}_d$ в $ \mathcal{A}_{\gamma }$, $S$ в $ \mathcal{B}$ и~обратных имеют вид \begin{gather*} \mathcal{N}_d \boldsymbol{f}_\mathcal{A}= -\sum_{j=1}^{\infty}\nu ^2_j (\boldsymbol{f},{\boldsymbol{q}}_{j}) \boldsymbol{q}_{j }, \quad S \boldsymbol{f}_\mathbf{V}=\sum_{j=1}^{\infty}\lambda_{j} \bigl[(\boldsymbol{f},{\boldsymbol{q}}_{j}^{+}) \boldsymbol{q}_{j}^{+}- (\boldsymbol{f},{\boldsymbol{q}}_{j}^{-}) \boldsymbol{q}_{j}^{-}\bigr], \mathcal{N}_d ^{-1}\boldsymbol{f}_\mathcal{A}= -\sum_{j=1}^{\infty}\nu ^{-2}_j (\boldsymbol{f},{\boldsymbol{q}}_{j}) \boldsymbol{q}_{j }, \quad S^{-1}\boldsymbol{f}_\mathbf{V}=\sum_{j=1}^{\infty} \lambda_{j}^{-1}\bigl[(\boldsymbol{f},{\boldsymbol{q}}_{j}^{+}) \boldsymbol{q}_{j}^{+}- (\boldsymbol{f},{\boldsymbol{q}}_{j}^{-}) \boldsymbol{q}_{j}^{-} \bigr]. \end{gather*} Рассмотрим пространства \[ \mathbf{A}^{2k}_{\gamma }\equiv \{\boldsymbol{f}\in \mathcal{A}_{\gamma }, \dots, (\nabla \mathop{\rm div})^k \boldsymbol{f}\in \mathcal{A}_{\gamma }\} ~~~ \text{и} ~~~ \mathbf{W}^m \equiv \{\boldsymbol{g}\in \textbf{V}^0, \dots, \mathop{\rm rot}\nolimits^m \boldsymbol{g} \in \textbf{V}^0\} \] при $k\geq 1$, $m\geq1$; $ \mathbf{A}^{0}_{\gamma }\equiv \mathcal{A}$, $\mathbf{W}^{0}\equiv \textbf{V}^{0}\equiv \mathcal{B}$. Имеют место вложения \begin{equation} \label{eqno:(4.2)} \mathbf{A}^{2k}_{\gamma }\subset \mathbf{A}^{2(k-1)}_{\gamma } \subset \mathbf{A}^{2}_{\gamma } \subset \mathcal{A}_{\gamma } , \quad \mathbf{W}^m\subset \mathbf{W}^{m-1}\subset\dots \subset \mathbf{W}^1\subset \textbf{V}^{0}. \end{equation} Прямую сумму векторных пространств $ \mathbf{A}^{2k}_{\gamma }\oplus \mathbf{W}^m$ обозначим как $C(2k, m)$ и назовем классом; $k\geq 0$, $m\geq 0 $ --- целые, $k+m>0$. Операторы $(\mathcal{N}_d^{-1}, I)$, $(I, S^{-1})$ и $(\mathcal{N}_d^{-1}, S^{-1})$ отображают класс $C(2k, m)$ на классы $C(2(k+1), m)$, $C(2k, m+1)$ и $C(2(k+1), m+1)$ и~обратно (пп.~\hyperlink{S1.5}{1.5} и~\hyperlink{S1.7}{1.7}). \hypertarget{S4.2}{} \smallskip \Section[n] {4.2. Пространство $\bf \mathbf{E}^{\boldsymbol s}(\boldsymbol \Omega)$, $\boldsymbol s \bf \geq 0$ --- целое} Это пространство определяется в [21] так: $$ \mathbf{E}^{s}=\{\boldsymbol{f}\in \mathbf{H}^{s}: \mathop{\rm div}\boldsymbol{f}\in {H}^{s}\}. $$ Квадрат нормы $ \| \boldsymbol{f}\|_{E^s}^2= \| \boldsymbol{f}\|_s^2+ \| \mathop{\rm div}\boldsymbol{f}\|_s^2 = \| \boldsymbol{f}_\mathcal{A}\|_s^2+ \|\mathop{\rm div} \boldsymbol{f}_\mathcal{A}\|_s^2+ \| \boldsymbol{f}_\mathbf{V}\|_s^2;$ $ \mathbf{E}^{s}$ --- гильбертово пространство и \begin{equation} \label{eqno:(4.3)} \mathbf{C}_0^{\infty}(\Omega)\subset \mathbf{E}^{s}(\Omega), \quad \mathbf{H}^{s+1}(\Omega)\subset \mathbf{E}^{s}(\Omega) \subset\mathbf{H}^s(\Omega). \end{equation} Очевидно, что $\mathop{\rm rot} \boldsymbol{u}+\lambda \boldsymbol{u}\in \mathbf{E}^{s}(\Omega)$, если $\boldsymbol{u}\in \mathbf{H}^{s+1}(\Omega)$. Для функций $v$ из пространства $H^1(\Omega)$ определен [2] оператор {\it следа} $$\gamma :H^1(\Omega) \to H^{1/2}(\omega),$$ равный следу $v$ на границе $\omega$ для функций из $\mathcal{C}^1(\overline{\Omega})$: $\gamma v=v|_\omega$, причем $ \|\gamma v\|_{L_2(\omega)}\leq c \|v\|_{H^1(\Omega)}$. Аналогично, для поля $\boldsymbol{u}(\boldsymbol{x})$ из $\mathbf{E}^0(\Omega)$ определен [21] оператор {\it следа ее нормальной компоненты $\boldsymbol{n}\cdot \boldsymbol{u}$}, $\gamma_{\boldsymbol{n}} :\mathbf{E}^0(\Omega) \to H^{-1/2}(\omega)$, равный сужению $\boldsymbol{n}\cdot \boldsymbol{u}$ на $\omega$ для функций из $\mathcal{C}^1(\overline{\Omega})$: $\gamma_{\boldsymbol{n}} \boldsymbol{u}={\boldsymbol{n}}\cdot\boldsymbol{u}|_\omega$. Для $\boldsymbol{u}\in \mathbf{E}^0(\Omega)$ и $v\in H^1(\Omega)$ верна обобщенная формула Стокса: $$\langle \gamma_{\boldsymbol{n}} {\boldsymbol{u}},\gamma v \rangle= (\boldsymbol{u}, \nabla v)+( \mathop{\rm div}\boldsymbol{u}, v),$$ где $\langle\gamma_{\boldsymbol{n}} {\boldsymbol{u}},\gamma v \rangle$ --- линейный функционал над пространством $H^{1/2}(\omega)$; $$\mathbf{{E}}_{\gamma}^0(\Omega)\equiv \{\boldsymbol{f}\in\mathbf{E}^0:\gamma_{\boldsymbol{n}}\boldsymbol{f}=0\}.$$ \hypertarget{S4.3}{} \smallskip \Section[n] {4.3. Метод Фурье решения краевых задач в $\mathbf{L}_{\bf 2}(\boldsymbol \Omega)$} Пусть в $\mathbf{L}_{2}(\Omega)$ задано поле $\boldsymbol{f}$. Рассмотрим следующие задачи. \smallskip \hypertarget{saks:task:1}{} {\small\sc Задача 1.} {\it Найти поле $\boldsymbol{u}$ в $ \mathbf{L}_{2}(\Omega)$ такое$,$ что \begin{equation} \label{eqno:(4.4)} \mathop{\rm rot} \boldsymbol{u}+\lambda \boldsymbol{u}= \boldsymbol{f} ~~~ \text{в} ~~~ \mathbf{L}_{2}(\Omega), %\quad \gamma_{\boldsymbol n} \boldsymbol{u} =0, \end{equation} то есть $(\boldsymbol{u}, ( \mathop{\rm rot}+\lambda I)\boldsymbol{ v})= ( \boldsymbol{f}, \boldsymbol{v})$ для любого поля} $\boldsymbol{v}\in \mathbf{C}_0^{\infty}(\Omega)$ %, {\it если след $\gamma_{\boldsymbol n} \boldsymbol{u}$ существует} ({\it см$.$ п}.~\hyperlink{S4.2}{4.2}) {\it и} $\gamma_{\boldsymbol n} \boldsymbol{u} =0.$ {\it и $ \gamma_{\mathbf{n}} {\mathbf{u}}=0,$ если след $\gamma_{\mathbf{n}} {\mathbf{u}}$ существует}. \smallskip \hypertarget{saks:task:2}{} {\small\sc Задача 2.} {\it Найти поле $\boldsymbol{w}$ в $\mathbf{L}_{2}(\Omega)$ такое$,$ что} \begin{equation} \label{eqno:(4.5)} \nabla \mathop {\rm div} \boldsymbol{w}+\nu^2\boldsymbol{w}= \boldsymbol{f} ~~~ \text{в} ~~~ \mathbf{L}_{2}(\Omega) % \quad \gamma_{\boldsymbol n} \boldsymbol{w} =0, \end{equation} {\it и $ \gamma_{\mathbf{n}} {\mathbf{w}}=0,$ если след $\gamma_{\mathbf{n}} {\mathbf{w}}$ существует}. %{\it если след $\gamma_{\boldsymbol n} \boldsymbol{w}$ существует} ({\it см$.$ п}.~\hyperlink{S4.2}{4.2}) {\it и} $\gamma_{\boldsymbol n} \boldsymbol{w} =0$. \smallskip Перейдем {\it в объемлющее пространство} $\mathbf{L}_{2}(\Omega)= \mathcal{A} \oplus \mathcal{B}$. Используя разложение полей $\boldsymbol{f}$, $\boldsymbol{u}$ и $\boldsymbol{w}$ из $\mathbf{L}_2(\Omega)$ в суммы $\boldsymbol{f}_\mathcal{A}+\boldsymbol{f}_\mathbf{V}$, $\boldsymbol{u}_\mathcal{A}+\boldsymbol{u}_\mathbf{V}$ и $\boldsymbol{w}_\mathcal{A}+\boldsymbol{w}_\mathbf{V}$ и~расширения $S$ и $\mathcal{N}_d$ операторов ротор и градиент дивергенции, запишем эти уравнения в виде уравнений=проекций \begin{gather} \label{eqno:(4.6)} \lambda\boldsymbol{u}_\mathcal{A}=\boldsymbol{f}_\mathcal{A}, \quad (\mathcal{N}_d+\nu^2 I)\boldsymbol{w}_\mathcal{A}=\boldsymbol{f}_\mathcal{A} ~~~ \text{в} ~~~ \mathcal{A}; \label{eqno:(4.7)} (S+\lambda I)\boldsymbol{u}_\mathbf{V}=\boldsymbol{f}_\mathbf{V}, \quad \nu^2\boldsymbol{w}_\mathbf{V}=\boldsymbol{f}_\mathbf{V}, ~~~ \text{в} ~~~ \mathcal{B}, \end{gather} учитывая, что $\mathop{\rm rot} \boldsymbol{u}_\mathcal{A}=0$ в $ \mathcal{A}$, $ \nabla\mathop{\rm div} \boldsymbol{u}_\mathbf{V}=0$ в $ \mathcal{B}\equiv \textbf{V}^0$. \smallskip {\small\sc Замечание.} {\small Если пространство $\mathbf{C} \equiv \mathcal{B}_H(G)$ не пусто и $\lambda\neq 0$, то уравнение $(\nabla\mathop{\rm div} +\mathop{\rm rot} +\lambda I)\boldsymbol{u}=\boldsymbol{f}$ распадается на три проекции: \begin{equation} \label{eqno:(4.8)} (\mathcal{N}_d+\lambda I)\boldsymbol{u}_\mathcal{A}=\boldsymbol{f}_\mathcal{A}, \quad (S+\lambda I)\boldsymbol{u}_\mathbf{V}=\boldsymbol{f}_\mathbf{V}, \quad \lambda\boldsymbol{u}_\mathbf{C}=\boldsymbol{f}_\mathbf{C} \end{equation} --- уравнения второго, первого и нулевого порядков соответственно.} \smallskip % теоремы~\hyperlink{saks:th3}{3} и оценок следует лемма~\hyperlink{saks:lemma1}{1} Согласно теореме~\hyperlink{saks:th3}{3} и леммам~\hyperlink{saks:lemma1}{1},~\hyperlink{saks:lemma2}{2}, уравнения $$ (S+\lambda I)\boldsymbol{u}_\mathbf{V}=\boldsymbol{f}_\mathbf{V} ~~~ \text{и} ~~~ (\mathcal{N}_d+\nu^2 I)\boldsymbol{u}_\mathcal{A}=\boldsymbol{f}_\mathcal{A}$$ разрешимы по Фредгольму. При $\lambda\neq \mathop{\rm Sp} (\mathop{\rm rot})$ проекции решения задачи~\hyperlink{saks:task:1}{1} имеют вид \begin{equation} \label{eqno:(4.9)} {\boldsymbol{u}_{\mathcal{A}}}={\lambda}^{-1}\boldsymbol{f}_\mathcal{A}, \quad \boldsymbol{u}_\mathbf{V}=(S+\lambda I)^{-1} \boldsymbol{f}_\mathbf{V}. \end{equation} Действительно, формулы \eqref{eqno:(4.9)} получаются из формул \eqref{eqno:(4.6)}, \eqref{eqno:(4.7)} и~обратимости оператора $S+\lambda I$ при $\lambda\neq \mathop{\rm Sp} (\mathop{\rm rot})$ в $ \textbf{V}^0$ (теорема~\hyperlink{saks:th3}{3}, п.~\hyperlink{S1.5}{1.5}). %\begin{itemize} %\item[--] % если % $\boldsymbol{f}=\boldsymbol{f}_{\mathcal{A}}$ и $\boldsymbol{f}_{\mathcal{A}}\in \mathcal{A}$ или $\boldsymbol{f}_{\mathcal{A}}\in\mathcal{A}_{\gamma},$ %то $\boldsymbol{u}= {\lambda}^{-1}\boldsymbol{f}_{\mathcal{A}}\in %\mathcal{A}$ или $\boldsymbol{u}\in \mathcal{A}_{\gamma} $ --- обобщенные решения %задачи~\hyperlink{saks:task:1}{\rm 1}$;$ % %\item[--] % если $\boldsymbol{f}\in \mathcal{B}\bot \mathcal{A}$ в % $\mathbf{L}_{2}(\Omega),$ то % $\boldsymbol{u}=(S+\lambda)^{-1}\boldsymbol{f}_{\textbf{\bf V}}\in \mathbf{W}^1\subset \mathbf{H}^{1}_{\gamma}(\Omega);$ % %\item[--] % если $\boldsymbol{f}\in\mathbf{E}_{\gamma}^{0}(\Omega),$ то $\boldsymbol{u}=\boldsymbol{u}_{\mathcal{A}}+\boldsymbol{u}_{\textbf{\bf V}}\in \mathbf{H}^{1}_{\gamma}(\Omega);$ % %\item[--] % если $\boldsymbol{f}$ принадлежит классу $C(2k, m),$ то $\boldsymbol{u}\in C(2k, m+1);$ % % %\item[--] % если же $\boldsymbol{f}\in \mathcal{D}(\Omega),$ то ряды \eqref{eqno:(1.16)}$,$ \eqref{eqno:(1.17)} сходятся в~$\mathbf{H}^{s}(\Omega)$ % для любого $s\geq 1$ и $\boldsymbol{u}\in % C^{\infty}(\overline{\Omega})$ --- классическое решение задачи. %\end{itemize} %\end{theorem} %\newpage % Рассмотрим утверждения теоремы~\hyperlink{saks:th5}{5} и прокомментируем их: \smallskip \begin{itemize} \item[--] {\it если $\boldsymbol{f}=\boldsymbol{f}_{\mathcal{A}}$ и $\boldsymbol{f}_{\mathcal{A}}\in \mathcal{A}$ или $\boldsymbol{f}_{\mathcal{A}}\in\mathcal{A}_{\gamma},$ то $\boldsymbol{u}= {\lambda}^{-1}\boldsymbol{f}_{\mathcal{A}}\in \mathcal{A}$ или $\boldsymbol{u}\in \mathcal{A}_{\gamma} $ --- обобщенные решения задачи~\hyperlink{saks:task:1}{\rm 1}$.$} \smallskip Эти ряды являются обобщенными решениями уравнения \eqref{eqno:(4.4)}; \end{itemize} \smallskip \smallskip % Если $\boldsymbol{f}\in \mathcal{B}\bot \mathcal{A}$ в % $\mathbf{L}_{2}(\Omega)$, то % $\boldsymbol{u}=(S+\lambda)^{-1}\boldsymbol{f}_\boldsymbol{v}\in \mathbf{W}^1\subset \mathbf{H}^{1}_{\gamma}(\Omega)$. % % Если $\boldsymbol{f}\in\mathbf{E}_{\gamma}^{0}(\Omega)$, то $\boldsymbol{u}=\boldsymbol{u}_{\mathcal{A}}+\boldsymbol{u}_\boldsymbol{v}\in \mathbf{H}^{1}_{\gamma}(\Omega)$. \begin{itemize} \item[--] {\it если $\boldsymbol{f}\in \mathcal{B}\bot \mathcal{A}$ в $\mathbf{L}_{2}(\Omega),$ то $\boldsymbol{u}={(S+\lambda I)^{-1}}\boldsymbol{f}_{\textbf{\bf V}}\in \mathbf{W}^1\subset \mathbf{H}^{1}_{\gamma}(\Omega);$} \item[--] {\it если $\boldsymbol{f}\in\mathbf{E}_{\gamma}^{0}(\Omega),$ то $\boldsymbol{u}=\boldsymbol{u}_{\mathcal{A}}+\boldsymbol{u}_{\textbf{\bf V}}\in \mathbf{H}^{1}_{\gamma}(\Omega).$} \smallskip Действительно, если $ \boldsymbol{f}\,{\in}\, \mathbf{H}^{0}\,{=}\,\mathbf{L}_{2}(\Omega)$ и $ \mathop{\rm div}\boldsymbol{f}\,{\in}\, {H}^{0}$, то $\boldsymbol{f}_{\mathcal{A}}\,{\in}\, \mathbf{H}^{0}$ и $ \mathop{\rm div}\boldsymbol{f}_{\mathcal{A}}= $\linebreak $=\mathop{\rm div}\boldsymbol{f}\in {H}^{0}$, так как $\mathop{\rm div} \boldsymbol{f}_{\mathbf{V}}=0$. Кроме того, $\mathop{\rm rot} \boldsymbol{f}_\mathcal{A}=0$ и $\gamma_{\boldsymbol{n}} {\boldsymbol{f}}_\mathcal{A}=0$. Из оценки \eqref{eqno:(1.4)} при $s=0$ поле $\boldsymbol{f}_{\mathcal{A}}\in \mathbf{H}^{1}_{\gamma}$, значит $\boldsymbol{u}_{\mathcal{A}}={\lambda}^{-1}\boldsymbol{f}_\mathcal{A}\in \mathbf{H}^{1}_{\gamma}(\Omega)$. Так как $\boldsymbol{u}_\mathbf{V}={(S+\lambda I)^{-1}} \boldsymbol{f}_\mathbf{V}$ также принадлежит $ \mathbf{H}^{1}_{\gamma}$, то $\boldsymbol{u}\in \mathbf{H}^{1}_{\gamma}(\Omega)$; \end{itemize} \smallskip \smallskip \begin{itemize} \item[--] {\it если $\boldsymbol{f}$ принадлежит классу $C(2k, m),$ то $\boldsymbol{u}\in C(2k, m+1);$} \item[--] {\it если же $\boldsymbol{f}\in \mathcal{D}(\Omega),$ то ряды \eqref{eqno:(1.16)}$,$ \eqref{eqno:(1.17)} сходятся в~$\mathbf{H}^{s}(\Omega)$ для любого $s\geq 1$ и $\boldsymbol{u}\in C^{\infty}(\overline{\Omega})$ --- классическое решение задачи}. \smallskip Если $\boldsymbol{f}\in C(2k, m)$, то согласно \eqref{eqno:(4.9)} $\boldsymbol{u}\in C(2k, m+1)$. % Если же $\boldsymbol{f}\in\mathbf{C}_0^{\infty}(\Omega)$, то ряды \eqref{eqno:(1.16)}, \eqref{eqno:(1.17)} сходятся в $\mathbf{H}^{s}(\Omega)$ % для любого $s\geq 1$ и $\boldsymbol{u}\in % C^{\infty}(\overline{\Omega})$ --- классическое решение задачи. Последнее утверждение очевидно. \end{itemize} Теорема~\hyperlink{saks:th5}{5} доказана. \smallskip {\small\sc Замечание. }{\small В~случае шара эта теорема имеет наиболее натуральный вид. Сог\-лас\-но [17], собственные значения $\lambda_{n,m}$ оператора $S$ в шаре радиуса $R$ равны $\pm \rho_{n,m} R^{-1}\!$, где числа $\pm \rho_{n,m}$ --- нули функций $\psi_n(r)$ (см. \eqref{eqno:(1.18)}), $m$, $n\in {\mathbb {N}}$; кратность собственного значения $\lambda_{n,m}$ равна $2n+1$. Собственные поля $\boldsymbol{q}^{\pm}_{\kappa}(\boldsymbol{x})$ ротора и $\boldsymbol{q}_{\kappa}(\boldsymbol{x})$ градиента дивергенции, $ \kappa=(n,m,k)$, выражены явно через сферические функции и функции~$\psi_n(r)$.} \smallskip Из теоремы~\hyperlink{saks:th5}{5} и леммы~\hyperlink{saks:lemma1}{1} очевидно следуют лемма~\hyperlink{saks:lemma3}{3} и ее следствие. Решение краевой задачи \hyperlink{saks:task:2}{2} при $\lambda\neq \operatorname{Sp} (\nabla \operatorname{div})$ аналогично [19]. Таким образом, задачи \hyperlink{saks:task:1}{1} и \hyperlink{saks:task:2}{2} решены полностью. \hypertarget{S4.4}{} \smallskip \Section[n] {4.4. О приложениях} Собственные поля ротора имеют приложения в гидродинамике [6], где они называются полями Бельтрами; в~астрофизике и~в~физике плазмы они называются бессиловыми полями (force-free magnetic fields --- L.~Woltjer [22], free-decay fields --- J.~B.~Taylor~[23]). В.~И.~Арнольд [24] и~В.~В.~Козлов [25] изучали топологию линий тока течений идеальной жидкости при условии $[\mathop{\rm rot }\boldsymbol{v}, \boldsymbol{v}]\neq 0$. Об этих и других работах подробно написано в~работе [17]. Отметим еще работы L.~Woltjer [22, 26], который ввел понятие спиральности (helicity) гладкого векторного поля в~области $\Omega \subset \mathbb {R}^3$. J.~Cantarella, D.~DeTurck, H.~Gluck и M.~Teytel [27] изучили линии тока собственных полей ротора с~минимальным собственным значением в~шаре и~в~шаровом слое. Автор вывел формулы собственных полей ротора и градиента дивергенции в шаре для любых собственных значений (см. [17, 28, 29]). [27] и~опубликованные в [28] примерно в~то же время, дополняют формулы, приведенные в~[27], которые получены, следуя работам [22, 26]. Установлена связь собственных полей ротора и Стокса [17, 30]. Для нелинейной системы Навье--~Стокса с~периодическими граничными условиями найдены явные решения [31]. Совместно с~А.~Г.~Хайбуллиным автор разработал новый метод численного решения задачи Коши [32, 33]. Профессор Г.~Г.~Исламов [34], используя формулу из работы [30], осуществил визуализацию линий тока поля $u_{1,1,0}^{+}(\boldsymbol{x})$ ротора с~минимальным собственным значением в~шаре.\hyperlink{Foot:8}{$^6$}\footnotetext{\hypertarget{Foot:8}{$^6$} Данная визуализация была представлена Г.~Г.~Исламовым в~докладе <<Моделирование полей смещения вакуума в системе ``Mathematica''>> на 4-ой Российской конференции по~технологиям Wolfram (г.~Санкт--Петербург, 6--7 июня 2016~г.). На момент написания данной статьи материалы этого доклада были доступны по следующей ссылке: \mbox{\url{http://wac.36f4.edgecastcdn.net/0036F4/pub/www.wolfram.com/pdf/report-islamov.pdf}.} Представленный рисунок получен с помощью программы, переданной автору Г.~Г.~Исламовым.} Траектория движения отдельной точки напоминает нить, которая наматывается на тороидальную катушку (см.~рисунок). \begin{figure}[h] \centering \includegraphics[scale=.8]{saks_fig} \caption*{Катушка Исламова [Islamov Coil]} \end{figure} В работе М. Е. Боговского [35] исследована задача Дирихле для оператора дивергенции, важная в гидродинамике (см. [6, § 2 гл. 1]). Cтатья В. Н. Масленниковой и М. Е. Боговского [36] содержит обзор работ по решению задачи С. Л. Соболева [5] и~\textit{аппроксимации потенциальных и~соленоидальных векторных полей финитными бесконечно дифференцируемыми полями}. В частности, они пишут, что в~1976~г. J.~Heywood [37] построил соленоидальное векторное поле в~$W_2^1(\Omega )$, которое не аппроксимируется векторными полями из $J^{\infty}_{0}(\Omega)=\{\boldsymbol{u}\in C^{\infty}_{0}(\Omega) :\mathop {\rm div} \boldsymbol{u}=0 \}$.

About the authors

Romen Semenovich Saks

Institute of Mathematics with Computing Centre, Ufa Federal Research Centre, Russian Academy of Sciences

Email: romen-saks@yandex.ru
Doctor of physico-mathematical sciences, Professor

References

Supplementary files