Network of Sobolev spaces and boundary value problems for operators vortex and gradient of divergence

Full Text

1. Основные подпространства $\bf L_2(\boldsymbol{G})$

Рассмотрим линейные пространства над полем $\mathbb{R}$ действительных чисел. Через $\mathbf{L}_{2}(G)$ обозначим пространство Лебега вектор-функций (полей), квадратично интегрируемых в $G$ с внутренним произведением
\[ \begin{equation*}
(\mathbf {u},\mathbf {v})= \int_G \mathbf {u}\cdot \mathbf {v}d \mathbf {x}
\end{equation*} \]
и нормой $\|\mathbf{u}\|= (\mathbf {u},\mathbf {u})^{1/2}$.

1.1. Шкала пространств Соболева

Пространство Соболева, состоящее из полей, принадлежащих $\mathbf{L}_{2}(G)$ вместе с обобщенными производными до порядка $ m> 0$, обозначается через $\mathbf{H}^{m}(G)$, $\|\mathbf {f}\|_m$ — норма его элемента $\mathbf {f}$; $\mathbf{H}^{0}(G)\equiv\mathbf{L}_{2}(G)$. 

$\mathbf{H}^m(G)$ — гильбертово пространство со скалярным произведением
\[ \begin{equation*}
(\mathbf{f}, \mathbf{g})_m=(\mathbf{f}, \mathbf{g})+ 
\int_{G} \sum_{|\alpha|=m}\frac{m!}{\alpha !}\partial^{\alpha}\mathbf{f}\cdot\partial^{\alpha}\mathbf{g}
d \mathbf{x}, \quad \|\mathbf {f}\|_m^2= (\mathbf{f},\mathbf{f})_m. 
\end{equation*} \]

Замыкание в норме $\mathbf{H}^{m}(G)$ множества $[\mathcal{C}^{\infty}_0(G)]^3$ обозначается через $\mathbf{H}^{m}_0(G)$.

Двойственное пространство Соболева отрицательного порядка $\mathbf{H}^{-m}(G)$ сопряжено с $\mathbf{H}^{m}_0(G)$. 

С. Л. Соболев предложил всю цепь вложенных пространств:
\[ \begin{equation*} 
\subset \mathbf{H}^{m}\subset \dots \subset \mathbf{H}^1\subset \mathbf{L}_2\subset \mathbf{H}^{-1}\subset 
\dots \subset \mathbf{H}^{-m} \subset . 
\end{equation*} \]
В [1, § 9 гл. 12] он обозначал их $W_2^{(m)}(G)$. Мы будем обозначать их $\mathbf{H}^{m}(G)$, следуя книгам В. П. Михайлова [2] и В. А. Солонникова с Н. Н. Уральцевой [3].

В области $G$ с гладкой границей $\Gamma$ в каждой точке $y\in\Gamma$ определена нормаль $\mathbf {n}(y)$ к $\Gamma$. Поле $\mathbf {u}$ из $\mathbf{H}^{m+1}(G)$ имеет на $\Gamma$ след $ \gamma(\mathbf {n}\cdot\mathbf {u})$ его нормальной компоненты, который принадлежит пространству Соболева–Слободецкого $\mathbf{H}^{m+1/2}(G)$, $|\gamma(\mathbf {n}\cdot\mathbf {u})|_{m+1/2}$ — его норма.

1.2. Потенциальные и соленоидальные поля в $\bf L_{2}(\boldsymbol{G})$

Подобно тому как течения жидкости разделяют на ламинарные и турбулентные, векторные поля в $\mathbf{L}_{2}(G)$ разделяются на потенциальные (безвихревые) и соленоидальные.

Потенциальные (irrotational) поля $\mathbf{f}$ и соленоидальные поля $\mathbf{g}$ в $\mathbf{L}_{2}(G)$ впервые выделил Герман Вейль в статье [4] условиями ортогональности:
\[ \begin{equation*}
(\mathbf{f}, \operatorname{rot} \mathbf{v})=0 \quad \forall \mathbf{v}\in \mathbf{C}_0^1(G) , \quad (\mathbf{g},\nabla \psi )=0 \quad \forall \psi\in C_0^1(G). 
\end{equation*} \]

С. Л. Соболев в статье [5] (1954 г.) приводит другой способ разложения $\mathbf{L}_{2}(\Omega)$, предположив, что область $\Omega$ гомеоморфна шару.

Мы используем разложение Z. Yoshida и Y. Giga [6]: по определению ${\mathcal{{A}}}(G)-\{\nabla h, h\in H^1(G)\}$, а $\mathcal{B}$ — ортогональное дополнение $\mathcal{A}$ в $\mathbf{L}_{2}(G)$.

Пространство ${\mathcal{{B}}}(G)$ также обозначается следующим образом: 
\[ \begin{equation*}
\mathcal{B}(G)=\{\mathbf{u}\in\mathbf{L}_{2} (G): \operatorname{div} \mathbf{u}=0 \text{ в $G$}, \gamma(\mathbf{n}\cdot \mathbf{u})=0 \},
\end{equation*} \]
так как из соотношений ортогональности $(\mathbf {u},\nabla h)=0$ для любой $h\in H^1(G)$ при $\mathbf{u}\in\mathbf{H}^{1}(G)$ вытекает, что $\operatorname{div} \mathbf{u}=0$ в $G$, $\gamma(\mathbf{n}\cdot \mathbf{u})=0 $.¹ Значит, 
\[ \begin{equation}
\mathbf{L}_{2}(G)= {\mathcal{{A}}}(G)\oplus{\mathcal{{B}}}(G).
\end{equation} \tag{1.1} \]
Если граница $\Gamma$ имеет род $\rho>0$, то $ \mathcal{A}$ содержит подпространство потенциальных полей: 
\[ \begin{equation}
 \mathcal{A}_H=\{\mathbf{v }\in\mathbf{L}_{2}(G) : \nabla\operatorname{div}\mathbf{v}=0, 
 \operatorname{rot} \mathbf{v}=0 \text{ в $G$}, \gamma (\mathbf{n}\cdot \mathbf{v})=0 \},
\end{equation} \tag{1.2} \]
а $\mathcal{B}$ — подпространство безвихревых соленоидальных полей: 
\[ \begin{equation}
\mathcal{B}_H=\{\mathbf{u}\in\mathbf{L}_{2}(G) : \operatorname{div} \mathbf{u}=0, 
\operatorname{rot} \mathbf{u}=0 \text{ в $G$}, \gamma(\mathbf{n}\cdot \mathbf{u})=0 \}. 
\end{equation} \tag{1.3} \]
Размерность $\mathcal{B}_H$ равна $\rho$ [7], а его базисные поля $\mathbf{h}_j\in \mathbf{C}^{\infty} (\bar{G})$, $j=1,\dots,\rho$, $\mathcal{B}_H\subset \mathcal{A}_H$. Размерность $\mathcal{A}_H$ не меньше $\rho$, а базисные поля $\mathbf{g}_l \in \mathbf{C}^{\infty}(\bar{G})$, $l=1,\dots,\rho_1\geqslant \rho$ (см. п. 1.7).

Отметим, что род $\rho-0$ у сферы и $\rho-1$ у тора. 

Ортогональное дополнение в $\mathcal{A}$ к $\mathcal{A}_H$ обозначается $\mathbf {A}^{0} (G)$.

Ортогональное дополнение в $\mathcal{B}$ к $\mathcal{B}_H$ обозначается $\mathbf {V}^{0} (G)$ и называется классом вихревых полей [8]. Так что 
\[ \begin{equation}
\mathcal{A}(G)=\mathcal{A}_{H} (G) \oplus \mathbf {A} ^{0} (G), \quad 
\mathcal{B}(G)=\mathcal{B}_{H} (G) \oplus \mathbf {V} ^{0} (G). 
\end{equation} \tag{1.4} \]
В шаре $B$ множества $\mathcal{A}_H$ и $\mathcal{B}_H$ пусты и $\mathbf {A}^{0}= \mathcal{A}$, а $\mathbf {V}^{0}=\mathcal{B}$.

Замечание. О. А. Ладыженская [9], К. Фридрихс [10], Н. Е. Кочин, И. А. Кибель, Н. В. Розе [11], а также Э. Б. Быховский и Н. В. Смирнов [12] приводят разложения $\mathbf{L}_{2}(G)$. В разложении Z. Yoshida и Y. Giga [6] мы заменили символ ${L}_{\sigma}^2(G)$ на ${\mathcal{{B}}}(G)$ и записали (1.1) как $\mathcal{A}\oplus \mathcal{B}$. Авторы [6] указывают, что разложение (1.4) для $\mathcal{B}(G)$ содержится в книге C. B. Morrey [13].

1.3. Операторы $\boldsymbol \nabla\operatorname{\bf div}$ и $\operatorname{\bf rot}$ в пространствах $\mathcal{A}$ и $\mathcal{B}$

Операторы градиент, ротор (вихрь) и дивергенция определяются в трехмерном векторном анализе.² Им соответствует оператор $d$ внешнего дифференцирования на формах $\omega^k$ степени $k=0, 1$ и 2.

Соотношения $d^2\omega^k=0$ при $k=0, 1$ имеют вид $\operatorname{rot}\nabla h=0$ и $\operatorname{div} \operatorname{rot} \mathbf{u}=0$ для гладких функций $h$ и $ \mathbf{u}$. Следовательно, операторы $\nabla\operatorname{div}$ и $\operatorname{rot}$ аннулируют друг друга: 
\[ \begin{equation*}
\nabla\operatorname{div} \operatorname{rot} \mathbf{u}=0, \quad 
\operatorname{rot} \nabla\operatorname{div} \mathbf{u}=0.
\end{equation*} \]
Оператор Лапласа выражается через них и скалярный оператор $\Delta_c$: 
\[ \begin{equation}
\Delta \mathbf {v}
\equiv \nabla \operatorname{div} \mathbf {v}
-(\operatorname{rot})^2 \mathbf {v}= \Delta_c I_3 \mathbf {v} , \quad 
\mathbf{v}=(v_1, v_2, v_3), \quad \Delta_c v_j\equiv \operatorname{div} \nabla {v_j}.
\end{equation} \tag{1.5} \]
Оператор Лапласа эллиптичен [14–17], а операторы $\operatorname{rot}$ и $\nabla \operatorname{div}$ не являются эллиптическими. Они вырождены, причем $\operatorname{rot} \mathbf {u}=0$ при $\mathbf{u}\in \mathcal{A}$, а $\nabla\operatorname{div}\mathbf {v}=0$ при $\mathbf{v}\in \mathcal{B}$ в смысле $\mathbf{L}_{2}(G)$ [4]. Поэтому 
\[ \begin{equation}
\Delta \mathbf{v}\equiv \nabla \operatorname{div} \mathbf{v} \text{ при $\mathbf{v}\in \mathcal{A}$}, 
\quad 
\Delta \mathbf{u} \equiv -\operatorname{rot} \operatorname{rot}\mathbf{u} \text{ при $\mathbf{u}\in \mathcal{B}$}. 
\end{equation} \tag{1.6} \]

1.4. Краевые задачи для операторов $\bf \operatorname{\bf rot}+ \boldsymbol\lambda \boldsymbol I$ и $\boldsymbol\nabla \operatorname{\bf div} \bf + \boldsymbol\lambda \boldsymbol I$ в пространствах Соболева

В классе равномерно неэллиптических псевдодифференциальных операторов Б. Вайнберга и В. Грушина [20] автор выделил в [21] подкласс [REES p] обобщенно эллиптических дифференциальных операторов и доказал, что операторы $ \operatorname{rot}+\lambda I$ и $ \nabla\operatorname{div}+\lambda I$ первого и второго порядков при $\lambda\neq 0$ принадлежат классу [REES 1]. В пространствах Соболева $\mathbf{H}^{s}(G)$ изучены краевые задачи. Им соответствуют операторы $\mathbb{A}$ и $\mathbb{B}$, которые расширятся до эллиптических по В. Солонникову переопределенных операторов $\mathbb{A}_R$ и $\mathbb{B}_R$, ограниченных в пространствах $\mathbf{H}^{s}(G)$ при целом $s\geqslant 0$:
\[ \begin{equation*}
\mathbb{A}_R\mathbf{u}\equiv 
\left( 
 \begin{matrix}
\operatorname{rot} +\lambda I \\
\lambda \operatorname{div}\\
\gamma
\mathbf{n} \cdot 
\end{matrix}
\right)\mathbf{u} : 
\mathbf{H}^{s+1}(G)\to
\left(
\begin{matrix}
\mathbf{H}^{s}(G)\\
H^s(G)\\
H^{s+1/2}(\Gamma)
\end{matrix}
\right), 
\end{equation*} \]
\[ \begin{equation*}
\mathbb{B}_R\mathbf{u}\equiv
\left( 
\begin{matrix}
\nabla \operatorname{div} +\lambda I \\
\lambda \operatorname{rot}\\
\gamma
\mathbf{n}\cdot 
\end{matrix}
\right)
\mathbf{u} : 
\mathbf{H}^{s+2}(G)\to
\left(
\begin{matrix}
\mathbf{H}^{s}(G)\\
\mathbf{H}^{s+1}(G)\\
H^{s+3/2}(\Gamma)
\end{matrix}
\right). 
\end{equation*} \]

Из Теоремы 1.1 В. Солонникова [16] в работе [21] доказаны следующие теоремы.

Теорема 1. Оператор $\mathbb{A}_R$ имеет левый регуляризатор. Его ядро конечномерно и для любых $\mathbf{u}\in \mathbf{H}^{s+1}(G)$ и $\lambda \neq 0$ (с постоянной $C_s-C_s(\lambda )>0$, зависящей только от $s$, $\lambda$) выполняется оценка
\[ \begin{equation}
C_s\|\mathbf{u}\|_{s+1} \leqslant 
\|\operatorname{rot} \mathbf{u}\|_{s} + |\lambda|\|\operatorname{div} \mathbf{u}\|_{s} +
 |\gamma({\mathbf{n}}\cdot\mathbf{u})|_{s+1/2}+ \|\mathbf{u}\|_{s}.
\end{equation} \tag{1.7} \]

Теорема 2. Оператор $\mathbb{B}_R$ имеет левый регуляризатор. Его ядро конечномерно и для любых $\mathbf{v}\in \mathbf{H}^{s+2}(G)$ и $\lambda \neq 0$ (с постоянной $C_s-C_s(\lambda )>0$, зависящей только от $s$, $\lambda$) выполняется оценка
\[ \begin{equation}
 C_s\|\mathbf{v}\|_{s+2} \leqslant |\lambda|\|\operatorname{rot} \mathbf{v}\|_{s+1}+
 \|\nabla\operatorname{div} \mathbf{v}\|_{s}+
 |\gamma({\mathbf{n}}\cdot\mathbf{v})|_{s+3/2}+ \|\mathbf{v}\|_{s}. 
\end{equation} \tag{1.8} \]

В теоремах нет топологических ограничений на область, лишь предполагается ее связность, ограниченность и гладкость границы.

Оценка (1.7) известна [6]. Мы показываем, что для операторов класса [REES p] такие оценки легко получать из [16, Теорема 1.1].

Формулы $\mathbf{u}\cdot\nabla h + h\operatorname{div}\mathbf{u}=\operatorname{div}(h \mathbf{u})$, $\mathbf{u}\cdot\operatorname{rot} \mathbf{v}- \operatorname{rot} \mathbf{u}\cdot\mathbf{v}=\operatorname{div}[\mathbf{v},\mathbf{u}]$, где $\mathbf{u}\cdot\mathbf{v}$ и $[\mathbf{v},\mathbf{u}]$ — скалярное и векторное произведения в $\mathbb R^3$, и интегрирование по $G$ используются при определении операторов $\nabla \operatorname{div}$ и $\operatorname{rot}$ в $\mathbf{L}_{2}(G)$. Интегрируя и применяя формулу Гаусса–Остроградского, имеем 
\[ \begin{equation}
\int_G \bigl[\operatorname{rot} \mathbf{u}\cdot \mathbf{v}
 -\mathbf{u}\cdot \operatorname{rot} \mathbf{v} \bigr]d\mathbf{x}- 
 \int_{\Gamma} \mathbf{n}\cdot [\mathbf{v},\mathbf{u}]d\mathbf{S},
\end{equation} \tag{1.9} \]
\[ \begin{equation}
\int_G \bigl[
\nabla \operatorname{div} \mathbf{u}\cdot \mathbf{v} -\mathbf{u}\cdot \nabla\operatorname{div} \mathbf{v} \bigr]
d\mathbf{x}- 
\int_{\Gamma} \bigl[ (\mathbf{n}\cdot \mathbf{v})\operatorname{div} \mathbf{u}+ (\mathbf{n}\cdot \mathbf{u})\operatorname{div} \mathbf{v}
\bigr]d\mathbf{S}. 
\end{equation} \tag{1.10} \]

1.5. Самосопряженные расширения $\operatorname{\bf rot}$ и $\nabla\operatorname{\bf div}$ в $\bf \mathbf{L}_{2}(\boldsymbol G)$

Пусть 
\[ \begin{equation*}
\mathcal{A}_{\gamma} (G)- \{\nabla h, h\in H^2(G) : \gamma (\mathbf{n}\cdot \nabla) h-0 \},\quad \mathbf{A}^0_{\gamma}-\mathbf{A}^0\cap \mathcal{A}_{\gamma},
\end{equation*} \]
положим 
\[ \begin{equation*}
\mathbf{W}^1= \{\textbf{f}\in \mathbf{V}^0, \operatorname{rot}\textbf{f}\in \mathbf{V}^0 \}, \quad 
\mathbf{A}^{2}=\{\textbf{f}\in \mathbf{A}^0_{\gamma}, \nabla \operatorname{div}\textbf{f}\in \mathbf{A}^0_{\gamma} \}. 
\end{equation*} \]
На этих пространствах определяются операторы $S$ и $ \mathcal{N}_d$ следующими условиями: $S\mathbf{u}=\operatorname{rot}\mathbf{u}$ при $\mathbf{u} \in \mathbf{W}^1$ и $\mathcal{N}_d\mathbf{v}= \nabla\operatorname{div}\textbf{v}- \nabla\operatorname{div} \nabla h$ при $\mathbf{v}=\nabla h \in \mathbf{A}^{2}$.

Пространства $ \mathbf{W}^1\subset \mathbf{H}^{1}$, $\mathbf{A}^{2}\subset \mathbf{H}^{2}$ согласно оценкам (1.7), (1.8) при $s=0$. Пространство $ \mathbf{W}^1$ плотно в $\mathbf{V}^0$, так как $\mathbf{C}_0^{\infty}(G) \cap \mathbf{V}^0\subset\mathbf{W}^1$ плотно в $\mathbf{V}^0$.

Аналогично, $\mathbf{A}^{2}$ плотно в $ \mathbf{A}^{0}$, так как $\mathbf{C}_0^{\infty} (G) \cap \mathbf{A}^0_{\gamma}\subset \mathbf{A}^{2}$ плотно в $\mathbf{A}^0_{\gamma} $.

Если поля $\mathbf{u}$ и $\mathbf{v}$ в равенстве (1.9) принадлежат $\mathcal{D}(S)$, то 
\[ \begin{equation*}
\gamma (\mathbf{n}\cdot \mathbf{u})=\gamma (\mathbf{n}\cdot \operatorname{rot} \mathbf{u})= 0,
\quad 
\gamma (\mathbf{n}\cdot \mathbf{v})= \gamma (\mathbf{n}\cdot \operatorname{rot} \mathbf{v})=0,
\end{equation*} \]
интеграл по $\Gamma$ зануляется [6] и это равенство принимает вид $( S \mathbf{u}, \mathbf{v})= (\mathbf{u}, S \mathbf{v})$. 

Аналогично, если поля $\mathbf{u}=\nabla g$ и $\mathbf{v}=\nabla h$ в равенстве (1.10) принадлежат $\mathcal{D}(\mathcal{N}_d)$, то $\gamma (\mathbf{n}\cdot \mathbf{u})\equiv \gamma (\mathbf{n}\cdot \nabla) g=0$, $\gamma (\mathbf{n}\cdot \mathbf{v})\equiv \gamma (\mathbf{n}\cdot \nabla) h=0$, интеграл по $\Gamma$ равен нулю и это равенство принимает вид $({\mathcal{N}_d} \mathbf{u}, \mathbf{v})= (\mathbf{u},{\mathcal{N}_d}\mathbf{v})$. 

Более того, доказано, что операторы $S$ и $\mathcal{N}_d$ суть самосопряженные расширения $\operatorname{rot}$ и $\nabla\operatorname{div}$ в $\mathbf{L}_{2}(G)$ (см. [6, 22]).

1.6. Гладкость собственных полей операторов $\operatorname{\bf rot}$ и $\boldsymbol \nabla\operatorname{\bf div}$

Спектральные задачи для операторов $\operatorname{rot}$ и $\nabla\operatorname{div}$ состоят в нахождении ненулевых полей $\mathbf{u}$ и $\mathbf{v}$ и чисел $\lambda$ и $\mu$ таких, что
\[ \begin{equation}
\operatorname{rot} \mathbf{u}=\lambda \mathbf{u}(\mathbf{x}), \; \;
\mathbf{x}\in G, \quad \gamma \mathbf{n}\cdot \mathbf{u}=0,
\; \; \mathbf{u}\in \mathbf{C}^1(G)\cap \mathbf{C}(\overline{G}),
\end{equation} \tag{1.11} \]
\[ \begin{equation*}
\nabla\operatorname{div}\mathbf{v}=\mu \mathbf{v}(\mathbf{x}), \; \;
\mathbf{x}\in G, \quad \gamma \mathbf{n}\cdot \mathbf{v}=0,
\; \; \mathbf{v}\in \mathbf{C}^2(G)\cap \mathbf{C}(\overline{G}).
\end{equation*} \]

Из теорем 1, 2 вытекают важные свойства решений спектральных задач операторов ротор и градиент дивергенции:

1. каждое ненулевое собственное значение имеет конечную кратность;
2. их собственые поля, принадлежащие $\mathbf{L}_{2}(G)$, являются гладкими вплоть до границы, если область $G$ имеет гладкую границу. 

Доказательство. Пусть $\lambda\neq 0$, а $\mathbf{u}(\mathbf{x})$ — решение задачи (1.11).

При $\mathbf{u}\in \mathbf{C}^1(G)\cap \mathbf{C}(\overline{G})$ это поле есть решение однородной эллиптической задачи:
\[ \begin{equation}
\operatorname{rot} \mathbf{u}=\lambda \mathbf{u}(\mathbf{x}), \quad 
\lambda \operatorname{div} \mathbf{u}(\mathbf{x})=0, \quad
\mathbf{x}\in G, \quad \gamma \mathbf{n}\cdot \mathbf{u}=0.
\end{equation} \tag{1.12} \]
Согласно теореме 1, эта задача имеет конечное число линейно независимых решений $\mathbf{u}_1(\mathbf{x}), \dots, \mathbf{u}_l(\mathbf{x})$, где $l$ зависит от $\lambda$ и не зависит от $\mathbf{u}$. Утверждение a доказано. 

Любое решение $\mathbf{u}_j(\mathbf{x})$ задачи (1.12) принадлежит $ \mathbf{L}_{2}(G)$, так как 
\[ \begin{equation*}
\|\mathbf{u}\|^2\equiv \int _G (\mathbf{u} \cdot \mathbf{u})d\mathbf{x} \leqslant V \max_{\overline{G}}|\mathbf{u} \cdot \mathbf{u}|= V \|\mathbf{u} \cdot \mathbf{u}\|_{C(\overline{G})}, \quad 
 V=\int_G 1 d\mathbf{x}
\end{equation*} \]
и $ \operatorname{rot} \mathbf{u}_j=\lambda \mathbf{u}_j$, $\operatorname{div} \mathbf{u}_j-0$ в $G$, $\gamma \mathbf{n}\cdot \mathbf{u}_j=0$. Поэтому $\|\operatorname{rot} \mathbf{u}_j \|= |\lambda| \| \mathbf{u}_j \|$ и оценка (1.7) при $s=0$ принимает вид $C_0\|\mathbf{u}\|_{1} \leqslant (|\lambda|+1) \|\mathbf{u}\|_{0}$, где постоянная $ C_0>0$.

Следовательно, $\mathbf{u}_j(\mathbf{x})$ принадлежит $\mathbf{H}^{1}(G)$ и
\[ \begin{equation}
\|\mathbf{u}_j\|_1 \leqslant C_0 ^{-1}(|\lambda|+1) \|\mathbf{u}_j \|_{0}, \quad 
\|\mathbf{u}_j\|_0 \leqslant \sqrt{V} \|\mathbf{u}_j\cdot \mathbf{u}_j \|^{1/2}_{ {C}(\overline{G})}.
\end{equation} \tag{1.13} \]
Далее, пусть $s>0$ целое. Так как $\|\operatorname{rot}\mathbf{u}_j\|_s-|\lambda|\|\mathbf{u}_j(\mathbf{x})\|_s$, из оценки (1.7) по индукции получаем 
\[ \begin{equation*}
\|\mathbf{u}_j\|_{s+1} \leqslant C_s ^{-1} (|\lambda|+1) \|\mathbf{u}_j\|_{s}\leqslant \dots 
\leqslant C_s ^{-1} \dots C_0 ^{-1} (|\lambda|+1)^s \|\mathbf{u}_j\|_{0}.
\end{equation*} \]

Значит, поле $\mathbf{u}_j(\mathbf{x})$ принадлежит $\mathbf{H}^{s+1}(G)$ для любого целого $s\geqslant 0$.

Замечание. Пространства $H^{l+2}(\Omega)$ вложены в $C^{l} (\bar {\Omega})$ при $l \geqslant 0$ в трехмерной области $\Omega$ и $ \|g\|_{C^{l} (\bar{\Omega})}\leqslant c_l \|g\|_{H^{l+2} (\Omega)}$ для любой функции $g\in H^{l+2} (\Omega)$, где постоянная $c_l > 0$ не зависит от $g$ (см. [2, Теорема 3, § 6.2]).

Итак, поля $\mathbf{u}_j(\mathbf{x})$ принадлежат $ \mathbf {C}^{l} (\bar G)$ для любого целого $l\geqslant 0$. Утверждение b для ротора доказано.

Аналогично, при $\mu\neq 0$ собственное поле $\mathbf{v}(\mathbf{x}) \in \mathbf{C}^2(G)\cap \mathbf{C}(\overline{G})$ оператора $\nabla\operatorname{div}$ есть решение однородной эллиптической задачи:
\[ \begin{equation}
\nabla\operatorname{div}\mathbf{v}=\mu \mathbf{v}(\mathbf{x}), \quad
\operatorname{rot} \mathbf{v}=0, \quad\mathbf{x}\in G, \quad \gamma \mathbf{n}\cdot \mathbf{v}=0.
\end{equation} \tag{1.14} \]
Согласно теореме 2, эта задача имеет конечное число линейно независимых решений $\mathbf{v}_1(\mathbf{x}), \dots, \mathbf{v}_k(\mathbf{x})$, где $k$ зависит от $\mu$ и не зависит от $\mathbf{v}$. Утверждение a доказано. 

Любое решение $\mathbf{v}_j(\mathbf{x})$ задачи (1.14) принадлежит $\mathbf{L}_{2}(G)$, так как 
\[ \begin{equation*}
\|\mathbf{v}\|^2_{\mathbf{L}_{2}(G)}\leqslant V\|\mathbf{v} \cdot \mathbf{v} \|_{ {C}(\overline{G})},
\quad 
V=\int_G 1 d\mathbf{x}.
\end{equation*} \]

Ввиду того, что $\|\nabla\operatorname{div}\mathbf{v}\|= |\mu| \|\mathbf{v}\|$ в $\mathbf{L}_{2}(G)$, оценка (1.8) при $s=0$ принимает вид $C_0\|\mathbf{v}\|_{2} \leqslant (|\mu|+1) \|\mathbf{v}\|_{0}$, причем постоянная $C_0>0$.

Значит, $\mathbf{v}_j(\mathbf{x})$ принадлежит $\mathbf{H}^{2}(G)$, и
\[ \begin{equation*}
\|\mathbf{v}_j\|_{2} \leqslant C_0 ^{-1}(|\mu|+1) \|\mathbf{v}_j
\|_{0}, \quad \|\mathbf{v}_j\|_0\leqslant \sqrt{V} \|\mathbf{v}_j\cdot \mathbf{v}_j \|^{1/2}_{ {C}(\overline{G})}.
\end{equation*} \]
Далее, пусть $s>0$ целое. Так как $\|\nabla\operatorname{div}\mathbf{v}_j\|_s-|\mu|\|\mathbf{v}_j(\mathbf{x})\|_s$, из оценки (1.8) по индукции получаем 
\[ \begin{equation}
 \|\mathbf{v}\|_{2s+2} \leqslant C_{2s} ^{-1} (|\mu|+1) \|\mathbf{u}\|_{2s}\leqslant \dots\leqslant C_{2s} ^{-1} \dots C_0 ^{-1} (|\mu|+1)^s \|\mathbf{u}\|_{0}. 
\end{equation} \tag{1.15} \]

Значит, $\mathbf{v}_j(\mathbf{x})$ принадлежит $\mathbf{H}^{2s+2}(G)\subset \mathbf{C}^{2s} (\bar {G}) $ для любого целого $s\geqslant 0$. Утверждение b доказано. $\square$

1.7. Гладкость базисных полей пространств $\boldsymbol{\mathcal{A}}_{\boldsymbol H}$ и $\boldsymbol{\mathcal{B}}_{\boldsymbol H}$

Пространства $\mathcal{A}_H$ и $\mathcal{B}_H$ определяются решениями эллиптических систем (1.2) и (1.3) в $ \mathbf{L}_{2}(G)$. Из формул (1.5) видно, что компоненты этих решений являются гармоническими функциями, а значит, они имеют непрерывные производные любого порядка. Это впервые заметил Герман Вейль для решений системы (1.3) (см. [4, Теорема 1]).

Краевые задачи (1.2) и (1.3) удовлетворяют условиям В. Солонникова в теореме 1.1 работы [16]. Откуда получаем, что пространства $\mathcal{A}_H$ и $\mathcal{B}_H$ конечномерны и их базисные поля $\mathbf{g}_i(\mathbf{x})$ и $\mathbf{h}_j(\mathbf{x})\in \mathbf{C}^{\infty} (\bar G)$, $i=1,\dots,\rho_1<\infty $, $j=1,\dots,\rho<\infty$. Для $\mathbf{g}_i(\mathbf{x})$ и $\mathbf{h}_j(\mathbf{x})$ имеются оценки вида (1.13) с $\lambda=0$. W. Borchers, H. Sohr доказали [7], что число $\rho$ есть род границы $\Gamma$ области $G$. В частности, если область $\Omega$ гомеоморфна шару, то $\rho=0$.

Если область $\Omega$ гомеоморфна шару, а $\mathbf{u}$ — решение задачи (1.3), определяющей $\mathcal{B}_H$, то $\mathbf{u}= \nabla h$, а функция $h$ — решение задачи Неймана для оператора Лапласа: 
\[ \begin{equation*}
\Delta h-0 \text{ в $\Omega$}, \quad \gamma (\mathbf{n}\cdot \nabla) h=0.
\end{equation*} \]
Решение этой задачи $N$ есть произвольная постоянная $h=C$. Значит, $\mathbf{u}\equiv 0$ и пространство $\mathcal{B}_H$ пусто.

Рассмотрим пространство $\mathcal{A}_H$. Решение задачи (1.15) в шаре $B$, $|\mathbf{x}|<R$, сводится к задаче с условием Неймана:
\[ \begin{equation*}
\Delta h-C \text{ в $B$}, \quad \gamma (\mathbf{n}\cdot \nabla) h=0,
\end{equation*} \]
где $C$ — произвольная постоянная. Пусть $\mathbf{r}=\mathbf{x}$ — радиус-вектор, тогда $\mathbf{n}=\mathbf{x}/R$ — нормаль на границе шара. Частное решение уравнения Пуассона $\Delta h=C$ имеет вид $h= C |\mathbf{x}|^2 /6=Cr^2 /6$. Дифференцируя по $r$, получаем $\gamma (\mathbf{r}\cdot \nabla) h= CR/3$. Граничное условие Неймана принимает вид $ CR/3=0$. Значит, $ C=0$ и пространство $\mathcal{A}_H(B)$ в шаре $B$ пусто.

1.8. Ортогональные базисы в $\boldsymbol{\mathcal{A}}$, $\boldsymbol{\mathcal{B}}$ и в $\mathbf{L}_{\bf 2}\bf (\boldsymbol G)$

Пространство $\mathbf{A}^2$ плотно в $\mathbf{A}^0 $ и $\mathbf{A}^2\subset \mathbf{H}^2$. Собственные поля $\mathbf{q}_{j}(\mathbf{x})$ оператора $\nabla\operatorname{div}$ с ненулевыми собственными значениями ${\mu}_{j}$ принадлежат $\mathbf{A}^2$.

Множество собственных значений $\mu=-\nu^2$ этого оператора счетно, отрицательно и каждое из них имеет конечную кратность.

Перенумеруем их в порядке возрастания их модуля: $0<-\mu_1\leqslant -\mu_2\leqslant \dots$, повторяя $\mu_k$ столько раз, какова его кратность. Соответствующие вектор-функции обозначим через $\mathbf{v}_{1}, \mathbf{v}_{2}, \dots$ так, чтобы каждому значению $\mu_{k}=-\nu^2_k$ соответствовала только одна функция $\mathbf{v}_{k}$: $\nabla \operatorname{div} \mathbf{v}_{k}=-\nu^2_k \mathbf{v}_{k}$, $ \gamma\mathbf{n}\cdot\mathbf{v}_{k}=0$, $k=1, 2, \dots$. Собственные функции, соответствующие одному и тому же собственному значению, выберем ортонормальными, используя процесс ортогонализации Шмидта (см. [23]). Поля, соответствующие различным собственным значениям, ортогональны. Их нормируем. Нормированные собственные поля градиента дивергенции обозначим через $\mathbf{q}_{l}$, $ l=1, 2, \dots$, норма $\|\mathbf{q}_{l}\|=1$. Они составляют полный ортонормированный базис в классе $\mathbf{A}^{0}$. Зафиксируем его.

Аналогично строится базис в классе $\mathbf{V}^{0}$ [21].

Замечание. Согласно (1.6), оператор $\Delta \mathbf{u} \equiv -\operatorname{rot}^2 \mathbf{u}$ при $\mathbf{u}\in \mathcal{B}$. Собственные векторы ротора всегда встречаются парами: каждому собственному полю $\mathbf{u}^{+}_{j}$ с $\lambda_j>0$ соответствует собственное поле $\mathbf{u}^{-}_{j}$ с $-\lambda_j$. Это свойство операторов в [6] не отмечено.

Зафиксируем в $\mathbf{V}^{0}$ ортонормированный базис $\{\mathbf{q}^{+}_{j}, \mathbf{q}_{j}^{-}\}$, $\mathbf{q}^{\pm}_{j}\in \mathbf{C}^\infty(\bar{G})$: 
\[ \begin{equation}
\operatorname{rot} \mathbf{q}_{j}^{\pm}=\pm\lambda_j \mathbf{q}_{j}^{\pm}, \quad 
\gamma\mathbf{n}\cdot\mathbf{q}_{j}^{\pm}=0, \quad 
\|\mathbf{q}^{\pm}_{j}\|=1, \quad j\geqslant 1.
\end{equation} \tag{1.16} \]
Учитывая базисы пространств $\mathcal{A}_H$, $\mathcal{B}_H,$ видим, что объединение $\{g_l\}$, $\{\mathbf{q}_{l}\}$, $\{h_j\}$ и $\{\mathbf{q}^{+}_{j}, \mathbf{q}_{j}^{-}\}$ есть базис объемлющего пространства $\mathbf{L}_{2}(G)$.

Итак, в пространстве $\mathbf{L}_{2}(G)$ построен ортонормированный базис, состоящий из базисов двух ортогональных подпространств $\mathcal{A}$ и $\mathcal{B}$, элементами которого являются гладкие собственные поля операторов $\operatorname{rot}$ и $\nabla\operatorname{div}$.

1.9. Явный вид собственных полей ротора в шаре $\boldsymbol B$

Спектральные задачи для операторов ротор и градиент дивергенции в шаре решены автором полностью в [24]. Имеется несколько способов решения спектральной задачи ротора [8, 25, 26].

Учитывая приложения [27] и конкурирующие интересы [26], кратко изложим наш путь решения этой задачи [24].

Собственные числа $\lambda_{n,m}$ ротора в шаре радиуса $R$ равны $\pm \rho_{n,m}/R$, где числа $\pm \rho_{n,m}$ — нули функций
\[ \begin{equation}
 \psi_n(z) - (-z)^n\Bigl(\frac d{zdz}\Bigr)^n\Bigl(\frac{\sin z}z\Bigr), \quad m, n\in \mathbb {N}.
\end{equation} \tag{1.17} \]
Функции $\psi_n(z)$ — цилиндрические функции $J_{n+1/2}(z)$, где $n\geqslant 0$ — целое. Их элементарный вид (1.17) заметил еще Леорнард Эйлер (см. [23, § 23]).

Кратность собственного значения $\lambda^{\pm}_{n,m}$ равна $2n+1$.

Пусть $\mathbf{i}_r$, $\mathbf{i}_\theta$, $ \mathbf{i}_\varphi$ — репер поля $\mathbf{u}=u_r \mathbf{i}_r+ u_{\theta} \mathbf{i}_{\theta}+ u_{\varphi} \mathbf{i}_\varphi$.

Формулы решений задачи (1.16). Ненормированные собственные поля $\mathbf{u}_{\kappa }^{\pm }$ задачи (1.16) в сферических координатах вычисляются по формулам
\[ \begin{multline}
\mathbf{u}_{\kappa}^{\pm }=c_{\kappa }^{\pm }(\pm\lambda _{n,m} r)^{-1}{\psi }_{n}
 (\pm\lambda _{n,m}r)Y_{n}^{k}(\theta ,\varphi )\mathbf{i}_r+
c_{\kappa }^{\pm }{{(\pm\lambda _{n,m}^{\pm }r)}^{-1}} \operatorname{Re}[\Phi _{n}(\pm\lambda _{n,m}r)]
(\operatorname{Re} \mathrm{H} Y_{n}^{k} \mathbf{i}_\varphi+ \operatorname{Im} \mathrm{H} Y_{n}^{k} \mathbf{i}_\theta)+ {}
\\
{}+ c_{\kappa }^{\pm }{{(\pm\lambda _{n,m}r)}^{-1}}
 \operatorname{Im}[\Phi _{n}(\pm\lambda _{n,m}r)](-\operatorname{Im} \mathrm{H} Y_{n}^{k} \mathbf{i}_\varphi+
 \operatorname{Re} \mathrm{H} Y_{n}^{k} \mathbf{i}_\theta),
\end{multline} \tag{1.18} \]
где $Y_{n}^{k}(\theta ,\varphi )$ — сферические функции, оператор $\mathrm{H}v= (\sin ^{-1}\theta {\partial }_{\varphi }+ i{\partial }_{\theta } )v$, числа $c_{\kappa }^{\pm }\in \mathbb{R}$ — произвольны, $\kappa=(n,m,k)$ — мультииндекс, $m ,$ $n\in \mathbb{N},$ $|k|\leqslant n$, а
\[ \begin{equation*}
\Phi _{n}(\lambda r)= \int_{0}^{r} e^{i\lambda (r-t)} \psi _{n}(\lambda t) t ^{-1}dt,
 \quad \operatorname{Im} \Phi _{n}(\pm\rho_{n,m})=0. 
\end{equation*} \]

Решению этой спектральной задачи способствовали следующие наблюдения автора.

1. Функция $v(\mathbf{x})= \mathbf{x}\cdot \mathbf{u}=r u_r$ — скалярное произведение радиус-вектора $\mathbf{x}$ и решения $\mathbf{u}$ спектральной задачи (1.12) в шаре $B$ — является решением спектральной задачи Дирихле для уравнения Лапласа:
   \[ \begin{equation}
    -\Delta v=\lambda^{2} v \text{ в $B$}, \quad v|_{S}=0, \quad v(0)=0.
   \end{equation} \tag{1.19} \]
2. Уравнения $\operatorname{rot}\mathbf{u}=\lambda \mathbf{u}$, $\operatorname{div}\mathbf{u}=0$ в сферических координатах имеют вид двух комплексных уравнений
   \[ \begin{equation}
    ({\partial}_r - i\lambda) r w= r^{-1}\mathrm{H} v,
    \quad \mathrm{K} w=\lambda v-i r^{-1} \partial_r (r v)
   \end{equation} \tag{1.20} \]
   относительно функций $v=ru_r$ и $w=u_{\varphi}+iu_{\theta}$ с операторами
   \[ \begin{equation*}
   \mathrm{H}v= (\sin ^{-1}\theta {\partial }_{\varphi }+ i{\partial }_{\theta } )v, \quad 
   \mathrm{K}w= \sin ^{-1}\theta ({\partial }_{\theta } \sin \theta + i{\partial }_{\varphi } )w .
   \end{equation*} \]
3. Уравнения (1.19) являются условиями совместности системы (1.20).

Таким образом, решение задачи сводится к решению спектральной задачи Дирихле – Лапласа (1.19). Ее решения — пары $ \lambda_{\kappa}^2=(\rho_{n,m}/R)^2$ и ${v}_{\kappa} -c_{\kappa }{\psi }_{n}(\rho_{n,m}r/R )Y_{n}^{k}(\theta ,\varphi )$, где ${\psi }_{n} (\rho^2 _{n,m})=0$ [23, гл. V, § 26]). Условие $v(0)=0$ выполняется, если постоянные $c_{\kappa }=0$ при $\kappa=(0,m,0)$. Числа $ \lambda^{\pm}_{\kappa}=\pm \rho_{n,m}/R$ оказываются собственными значениями задачи (1.11), а функции $ u_{r,\kappa }=v_{\kappa}/r$ — радиальными компонентами собственных полей. Далее, интегрируя уравнения (1.20) с $ \lambda= \lambda^+_{\kappa}>0$ и $v=v^+_{\kappa}$, а затем с $\lambda^-_{\kappa}<0$ и $v=v^-_{\kappa}$, определяем комплексные функции $w^{\pm}_{\kappa}$. Они задают касательные компоненты полей $\mathbf{u}^{\pm}_{\kappa}$, которые определятся однозначно условием $w^{\pm}_{\kappa}\in L_2(B)$. Наконец, из радиальных и касательных компонент составляем поля $\mathbf{u}_{\kappa}^{\pm}(\mathbf{x})$. В итоге получаем запись решения в виде (1.18). 

Замечание. Уравнения (1.19) на функцию $v=r u_r$ при минимальном собственном значении $\lambda=4.4934\dots/R$ автор обнаружил в статье [26].

1.10. Явный вид собственных полей $\boldsymbol \nabla\operatorname{\bf div}$ в шаре $\boldsymbol B$

Собственные значения оператора $\nabla\operatorname{div}$ равны $-\nu_{n,m}^2$, где $\nu_{n,m}=\alpha_{n,m}/R$, а числа $\alpha_{n,m}$ — нули производных $\psi'_n(r)$, $n \geqslant 0$, $m\in {\mathbb {N}}$; кратность собственных значений $-\nu^2_{n,m}$ равна $2n+1$. 

Собственные поля $\mathbf{v}_{\kappa}$ градиента дивергенции — решения задачи
\[ \begin{equation*}
\nabla \operatorname{div} \mathbf{v}_{k}=-\nu^2_{\kappa}\mathbf{v}_{\kappa}, \quad 
\gamma\mathbf{n}\cdot\mathbf{v}_{\kappa}=0, \quad 
\mathbf{v}_{\kappa}= \nabla g_{\kappa}\in \mathcal{C}^\infty(\bar{G}).
\end{equation*} \]
Эта задача сводится к задаче Неймана для скалярного оператора Лапласа и градиенту функций $g_{\kappa}$, так как
\[ \begin{equation*}
\nabla \operatorname{div}\nabla g_{\kappa}\equiv \nabla \Delta_c g_{\kappa}= 
\Delta_c (\nabla g_{\kappa})- -\nu^2_k (\nabla g_{\kappa}), \quad 
\gamma(\mathbf{n}\cdot \nabla ) g_{\kappa}=0. 
\end{equation*} \]
Матричный $(3 {\times} 1)$ оператор $ \nabla \operatorname{div}\nabla g \equiv \nabla \Delta_c g$ эллиптичен.

Соответствующие $-\nu^2_{\kappa}\equiv -\nu^2_{n,m}$ собственные функции $g_{\kappa}$ имеют вид
\[ \begin{equation*}
g_{\kappa }(r, \theta ,\varphi)=c_{\kappa }\psi _{n} (\alpha _{n,m}r/R)Y_{n}^{k}(\theta ,\varphi ).
\end{equation*} \]

Поля $\mathbf{v}_{\kappa}= \nabla g_{\kappa}$ являются решениями задачи (1.14); их компоненты $v_r$, $v_{\theta}$, $v_{\varphi }$ определяются из соотношений
\[ \begin{equation*}
v_{r, \kappa }(r, \theta ,\varphi)=c_{\kappa } (\alpha _{n,m}/R)\psi'_{n} (\alpha _{n,m}r/R)Y_{n}^{k}(\theta ,\varphi),
\end{equation*} \]
\[ \begin{equation*}
(v_{\varphi}+iv_{\theta})_{ \kappa}=c_{\kappa } (1/r) \psi_{n} (\alpha _{n,m}r/R)\mathrm{H} Y_{n}^{k}(\theta ,\varphi ). 
\end{equation*} \]

При $ \kappa=(0, m, 0)$ функция $Y_{0}^{0}(\theta ,\varphi)=1$, $\mathrm{H} Y_{0}^{0}(\theta ,\varphi)=0$, поэтому 
\[ \begin{equation*}
v_{r, (0,m,0) }(r)= c_{ (0,m,0)}(\alpha _{0, m}/R) \psi'_{0} (\alpha _{0,m}r/R) , \quad (v_{\varphi}+iv_{\theta})_{ (0, m, 0)}=0. 
\end{equation*} \]

Построенный базис из собственных полей операторов градиент дивергенции и ротор является полным в $\mathbf{L}_{2}(B)$, так как $\mathbf{L}_{2}(B)=\mathbf{A}^0 \oplus \mathbf{V}^0$.

1.11. Визуализация потока с минимальной энергией

Формулы (1.18) удобны при расчетах поля скоростей $\mathbf {u}_{\kappa }^{\pm}(\mathbf {x})$ и визуализации вихревых потоков при заданных $\kappa-(n,m,k)$.

Поля $\mathbf{u}_{\kappa}^{\pm}(\mathbf{x})$ при $n=1$, $\kappa=(1, 1, 0)$ и $\kappa=(1, 1, \pm 1)$ выражаются наиболее просто. Так, компоненты поля $\mathbf{u}^{+}_{(1, 1, 0)}(\mathbf{x})$ имеют вид 
\[ \begin{equation}
\begin{array}{l}
u_r=2\rho( r\rho)^{-3} \bigl( \sin (r\rho)- r\rho \cos (r\rho) \bigr) \cos \theta, 
\\
u_\theta-( r\rho)^{-3} \bigl( \sin (r\rho)- r\rho \cos (r\rho)-(r\rho)^{2} \sin (r\rho)\bigr) \sin \theta , 
\\
u_{\varphi}- ( r\rho)^{-2} \bigl(( \sin (r\rho)- r\rho \cos (r\rho)\bigr) \sin \theta. 
\end{array}
\end{equation} \tag{1.21} \]
Профессор Г. Г. Исламов³ [28], используя эти формулы и программу Wolfram Mathematica, осуществил визуализацию линий тока поля $u_{1,1,0}^{+}(\mathbf {x})$ ротора при $R=1$, $\rho-\rho_{1,1}=4.4934$.⁴ Траектория движения трех соседних точек напоминает ленту, которая наматывается на тороидальную катушку (см. изображение катушки Исламова в [21]).

В связи с задачами астрофизики S. Chandrasekhar, P. С. Kendall изучали собственные поля оператора ротор в цилиндре и в шаре [29]. Они нашли элементарный способ вычисления полей в цилиндре.

D. Montgomery, L. Turner, G. Vahala в [30] использовали их формулы при изучении магнитогидродинамической турбулентности в цилиндре. В предположении периодичности полей вдоль оси цилиндра они нашли три интегральных инварианта, имеющих квадратичные выражения в терминах спектральных разложений. 

J. Cantarella, D. De Turck, H. Gluck, M. Teitel исследовали собственные поля ротора в шаре радиуса $b$ и в шаровом слое. Уравнение (1.19) на функцию $v=r u_r$ при минимальном собственном значении $\lambda_{1,1}=\rho_{1,1}/b>0$ автор обнаружил в их статье [26], в которой авторы приводят также соответствующую $\lambda_{1,1}$ формулу собственного поля ротора в шаре (см. [26, Theorem A]). К сожалению, с опечаткой, исправив которую, мы приходим к формулам (1.21) для компонент поля $\mathbf{u}^{+}_{(1,1,0)}(\mathbf{x})$. 

В [26, Fig. 1] также представлены интегральные кривые поля $\mathbf{u}^{+}_{(1,1,0)}(\mathbf{x})$ и приводится их описание: «они заполняют семейство концентрированных ''торов'' с замкнутой орбитой ''ядра'', типичных для осесимметричных собственных полей ротора; специальная орбита начинается на южном полюсе сферы в момент времени $-\infty$, проходит вертикально вверх по оси $z$ и достигает северного полюса ко времени $+\infty$; орбиты на граничной сфере начинаются на северном полюсе в момент времени $-\infty$, продолжаются по линиям долготы к южному полюсу до момента времени $+\infty$; имеются две стационарные точки в ее полюсах».

В статье [26] отмечено, что L. Woltjer использовал векторное поле $\mathbf{u}^{+}_{(1,1,0)}(\mathbf{x})$ для моделирования магнитного поля в Крабовидной туманности [27].

Не зная об этих работах, Г. Исламов и автор настоящей статьи также исследовали это поле [31].

1.12. Степени оператора Лапласа в классах $\boldsymbol{\mathcal{A}}$ и $\boldsymbol{\mathcal{B}}$

Из формул (1.6) при $k=2, 3, \dots$ имеем
\[ \begin{equation}
\Delta^k \mathbf{v}\equiv (\nabla \operatorname{div})^k \mathbf{v} \text{ при } \mathbf{v}\in \mathcal{A}, \quad 
\Delta^k \mathbf{u} \equiv (-1)^k(\operatorname{rot})^{2k} \mathbf{u} \text{ при } \mathbf{u}\in \mathcal{B}.
\end{equation} \tag{1.22} \]
В $\mathbf{L}_{2}(G)$ оператор $\Delta^k$ выражается через $(\nabla \operatorname{div})^k$ и $(\operatorname{rot})^{2k}$, а также через скалярный оператор $\Delta_c^k- (\partial_1^2+\partial_2^2+\partial_3^2)^k$: 
\[ \begin{equation*}
\Delta^k \mathbf {v}
= (\nabla \operatorname{div})^k \mathbf {v} + (-1)^k (\operatorname{rot})^{2k} \mathbf {v}= \Delta^k_c I_3 \mathbf {v} , 
\end{equation*} \]
где $\mathbf{v}=(v_1, v_2, v_3)$. Эти формулы следуют из формул (1.5), так как операторы $\operatorname{rot}$ и $\nabla \operatorname{div}$ аннулируют друг друга.⁵

С. Л. Соболев изучил периодическую задачу $\pi$ и краевые задачи $D$ и $N$ для скалярного полигармонического уравнения $\Delta^m u=\rho$ в пространствах ${W} _2^m(\Omega)$ c правой частью — обобщенной функцией (см. [1, § 9, гл. 12]).

В периодическом случае он доказал следующую теорему (цитирую).

Теорема XII.13. Оператор $\Delta^m$ переводит произвольную функцию $u$ из $\bar {W} _2^{(m)}$ в $\Delta^m u=\rho$ — элемент $\bar {L}_2^{(m)^*}$. Обратно, для произвольной обобщенной функции $\rho$ из $\bar {L}_2^{(m)^*}$ существует функция $u\in \bar {W} _2^{(m)}$ такая, что ${\Delta^m u=\rho}$. Эта функция определяется с точностью до произвольного постоянного слагаемого.

Операторы $(\nabla \operatorname{div})^p$ и $(\operatorname{rot})^{2q}$, где $ p$ и $ q$ — натуральные числа, суть аналоги полигармонических операторов $\Delta^m$ в классах $\mathcal{A}$ и $\mathcal{B}$, согласно (1.22).

Мы покажем, что оператор $(\nabla \operatorname{div})^{2p}$ переводит произвольное поле $\mathbf{w}$ из $ {A}^{2p}$ в $(\nabla \operatorname{div})^{2p} \mathbf{w}=\rho$ — элемент ${A}^{-2p}\equiv ({A}_0^{2p})^*$, а оператор $(\operatorname{rot})^{2q}$ переводит произвольное поле $\mathbf{u}$ из $ {W}^{q}$ в $(\operatorname{rot})^{2q} \mathbf{u}=\mathbf{v}$ — элемент ${W}^{-q}\equiv ({W}_0^{q})^*$.

Имеют место и обратные утверждения (см. теоремы 3 и 4).

2. Пространство $\boldsymbol{\mathcal{A}}$ потенциальных полей

В статье [22] детально рассмотрены структура класса $\mathcal{A}$ потенциальных полей, его базис и оператор $ \mathcal{N}_d$. Здесь мы рассмотрим его подпространства $\mathbf{A}^{2k}$. По определению
\[ \begin{equation*}
\mathcal{A}(G)=\{\nabla h, h\in H^1\}, \quad \mathcal{A}=\mathcal{A}_H\oplus \mathbf{A}^0,
\end{equation*} \]
где $\mathcal{A}_H $ — ядро оператора $ \nabla\operatorname{div}$ в $\mathcal{A}$, а $\mathbf{A}^0$ — его ортогональное дополнение;
\[ \begin{equation*}
\mathcal{A}_{\gamma} (G)=\{\nabla h, h\in H^2(G) : \gamma(\mathbf{n}\cdot \nabla) h=0\}, 
\quad
\mathcal{A}^0_{\gamma}=\mathbf{A}^0\cap \mathcal{A}_{\gamma}.
\end{equation*} \]

Подпространство $\mathbf{A}^2=\{ \mathbf{v}\in \mathcal{A}^0_{\gamma} : \nabla\operatorname{div} \mathbf{v}\in \mathcal{A}^0_{\gamma}\}$ — область определения оператора $ \mathcal{N}_d$; оно плотно в $\mathbf{A}^0$ и $\mathbf{A}^2\subset \mathbf{H}^2$ (согласно п. 1.5).

Собственные поля $\mathbf{q}_{j}(\mathbf{x})$ оператора $\nabla\operatorname{div}$ с ненулевыми собственными значениями $(-\nu^2_j)$: $\nabla \operatorname{div} \mathbf{q}_{j}= -\nu^2_j \mathbf{q}_{j}$, $\gamma(\mathbf{n}\cdot \mathbf{q}_{j})=0$ принадлежат пространству $\mathbf{A}^2$. Они составляют ортонормированный базис $\{\mathbf{q}_{j}(\mathbf{x})\}$ в $\mathbf{A}^{0}$.

Проекция поля $\mathbf{f}\in \mathbf{L}_2(G)$ на $\mathbf{A}^0$ имеет вид 
\[ \begin{equation}
\mathcal{P}_{\mathcal{A}}\mathbf{f}\equiv \mathbf{f}_{\mathcal{A}}(\mathbf{x})= 
\lim_{n\to\infty}(\mathbf{f}^n_{\mathcal{A}})=
\sum_{j=1}^\infty
(\mathbf{f},\mathbf{q}_{j})\mathbf{q}_{j}(\mathbf{x}), 
\end{equation} \tag{2.1} \]
где $\mathbf{f}^n_{\mathcal{A}}$ — частичные суммы этого ряда. 

Оператор $ \mathcal{N}_d$ определен и совпадает с $\nabla\operatorname{div}$ на $ \mathbf{A}^{2}$, поэтому 
\[ \begin{equation*}
\mathcal{N}_d\mathbf{f}_{\mathcal{A}}=
\lim_{n\to\infty}
\nabla\operatorname{div} (\mathbf{f}^n_{\mathcal{A}})-
-\sum_{j=1}^{\infty}\nu^2_j (\mathbf{f},\mathbf{q} _{j})\mathbf{q} _{j}(\mathbf{x}),
\end{equation*} \]
если ряд сходится и принадлежит $\mathbf{A}^0$. Это так, если $f\in\mathbf{H}^2(G)$. 

Доказано, что оператор $\mathcal{N}_d$ замкнут и самосопряжен [22]. 

2.1. Подпространства $\mathbf{A}^{\bf 2\boldsymbol k}$ в $\boldsymbol{\mathcal{A}}$

Рассмотрим еще пространства⁶
\[ \begin{equation*}
\mathbf{A}^{2k}=\{\textbf{f}\in \mathcal{A}^0_ {\gamma}, \dots, (\nabla \operatorname{div})^k\textbf{f}\in \mathcal{A}^0_ {\gamma} \}, \quad k=1, 2, \dots 
\end{equation*} \]

Замечание. Согласно оценке (1.8), пространство $\mathbf{A}^{2k}\subset \mathbf{H}^{2k}$. С другой стороны, оно является проекцией пространства Соболева $\mathbf{H}^{2k}$ порядка ${2k} $ на класс $\mathcal{A}$, так как для любого поля $\mathbf{f}\in \mathbf{H}^{2k} $ его проекция $\mathcal{P}_{A}\mathbf{f}\in \mathbf{A}^{2k}$; если же $\mathbf{f}\in \mathbf{A}^{2k}$, то $\mathcal{P}_{A}\mathbf{f}= \mathbf{f}$, а его проекция на $\mathcal{B}$ равна 0.

Пространство $\mathcal{A}^0_{\gamma}$ ортогонально ядру оператора $\mathcal{N}_d$ в $\mathbf{L}_{2}(G)$, поэтому $\mathcal{N}_d$ имеет единственный обратный оператор:
\[ \begin{equation*}
\mathcal{N}_d^{-1}\mathbf{f}_{\mathbf{A}}= 
-\sum_{j=1}^{\infty}\nu_j^{-2} (\mathbf{f},\mathbf{q}_{j})\mathbf{q}_{j}(\mathbf{x}). 
\end{equation*} \]
Оператор $\mathcal{N}_d^{-1}$ — компактен. 

Замечание. Спектр оператора $\mathcal{N}_d^{-1}$ точечный с единственной точкой накопления в нуле, $\nu^{-2}_j\to 0$ при ${j\to \infty}$.

2.2. Сопряженные пространства $\mathbf{A}^{\bf -2 \boldsymbol k}$

По определению, пространство ${H}^{s}_0(G)$ есть замыкание в норме ${H}^{s}(G)$ функций из ${C}^{\infty}_0(G)$, $\mathcal{A}_0-\{\nabla h, h\in H^1_0\}$, пространство 
$\mathbf{A}^{2k}_ {0}=\{\textbf{ f}\in \mathcal{A}_ {0}, \dots, (\nabla \operatorname{div})^k\textbf{ f}\in \mathcal{A}_ {0} \}$.

Пространство линейных непрерывных функционалов над $\mathbf{A}^{2k}_ {0}$ обозначим $(\mathbf{A}^{2k}_0)^*$. Эти пространства можно отождествить с пространствами $\mathbf{A}^{-2k}$ порядка $-2k$ (см. п. 2.4). Наконец, $\mathcal{A}^*$ — объединение $\mathbf{A}^{-2k}$ при $k\geqslant 1$.

Цепь вложений пространств $\mathbf{A}^{2k}$ имеет вид 
\[ \begin{equation*}
\subset \mathbf{A}^{2k}\subset\dots\subset\mathbf{A}^{2}\subset \mathbf{A}^0\subset \mathbf{A}^{-2}\subset\dots\subset \mathbf{A}^{-2k}\subset.
\end{equation*} \]

Операторы $\mathcal{N}_d:\mathbf{A}^{2k} \to \mathbf{A}^{2(k-1)}$ обратимы при $k> 1$ и 
\[ \begin{equation*}
\|\mathcal{N}_d^{-1}\mathbf{f}\|^2_{\mathbf{A}^{2k}} 
\leqslant c^2_k \|\mathbf{f}\|^2_{\mathbf{A}^{{2(k-1)}}}, \quad
\|\mathcal{N}_d \mathbf{f}\|^2_{\mathbf{A}^{2(k-1)}}\leqslant 
c^{-2}_k \|\mathbf{f}\|^2_{\mathbf{A}^{2k}}, 
\end{equation*} \]
где $c^2_k= \max _j(1+1/{\nu}_{j}^{2k})$, а $1/{\nu}_{j}\to 0$ при $j\to \infty $. 

Автор изучил также оператор $\mathcal{N}_d+\lambda I$, доказаны следующие утверждения: 

• оператор $\mathcal{N}_d+\lambda I:\mathbf{A}^{{2(k+1)}} \to \mathbf{A}^{2k}$ — фредгольмов при $k\geqslant0$ [22, п. 2.10];
• если $\lambda \overline{\in} \operatorname{Sp} (\mathcal{N}_d)$, то оператор $\mathcal{N}_d+\lambda I$ (и обратный) отображает пространство $\mathbf{A}^{2(k+1)}$ на $ \mathbf{A}^{2k}$ (и обратно) взаимно однозначно и непрерывно [21, Лемма 2, п. 1.7].

2.3. Оператор $\boldsymbol {\mathcal{N}}^{\bf 2\boldsymbol k}_{\boldsymbol d}$ в пространстве $\mathbf{A}^{\bf 2\boldsymbol k}$

Оператор $\mathcal{N}_d \mathbf{u}$ совпадает с $\nabla \operatorname{div}\mathbf{u}$, если $\mathbf{u}\in \mathbf{A}^{2}\equiv \mathcal{D}(\mathcal{N}_d)$. Поэтому оператор $(\nabla \operatorname{div})^{k}$ на $\mathbf{A}^{2k}\subset \mathbf{A}^{2}$ совпадает с $\mathcal{N}_d^{k}$ при $k> 1$. 

Основное утверждение. Оператор $\mathcal{N}^{2k}_d$ отображает пространство $\mathbf{A}^{2k}$ на $\mathbf{A}^{-2k}$ и обратно.

Ниже приведем этапы его доказательства.

Шаг 1. Оператор $\mathcal{N}_d^{2k}$ отображает пространство $\mathbf{A}^{2k}$ на $(\mathbf{A}^{2k}_0)^*$.

Действительно, пусть $\mathbf{w}$ — произвольный элемент из $\mathbf{A}^{2k}$, а $\mathbf{w}_{\eta}$ — средняя вектор-функция для него, $\mathbf{w}_{\eta}\in\mathbf{A}^{2k}_0$; поле $\mathbf{u}\in \mathbf{A}^{2k}$.

Рассмотрим главную часть $(\mathbf{u},\mathbf{w}_{\eta})_{2k}\equiv \bigl((\nabla \operatorname{div})^{k} \mathbf{u}, (\nabla \operatorname{div})^{k} \mathbf{w}_{\eta}\bigr)$ скалярного произведения в $\mathbf{A}^{2k}(G)$. Проинтегрируем по частям: 
\[ \begin{equation*}
(\mathbf{u},\mathbf{w}_{\eta})_{2k}=
\bigl((\nabla \operatorname{div})^{2k} \mathbf{u}, \mathbf{w}_{\eta}\bigr)=
\int_G
\mathbf{v}\cdot (\mathbf{w}_{\eta}) d\mathbf{x}. 
\end{equation*} \]
Левая часть имеет предел при $\eta\to 0$, равный $(\mathbf{u},\mathbf{w})_{2k}$. Следовательно, правая часть также будет иметь предел и интеграл $\int_G \mathbf{v}\cdot \mathbf{w} d\mathbf{x}$ существует при любой $\mathbf{w}\in\mathbf{A}^{2k}(G)$. Кроме того, из неравенства Коши–Буняковского следует оценка этого интеграла:
\[ \begin{equation*}
\biggl|\int_G \mathbf{v}\cdot \mathbf{w} d\mathbf{x}\biggr|
\leqslant
\|\mathbf{u}\|_{\mathbf{A}^{2k}}\|\mathbf{w}\|_{\mathbf{A}^{2k}}. 
\end{equation*} \]
Значит, $\mathbf{v}$ — линейный функционал из $(\mathbf{A}_{0}^{2k})^*$.

Применим его к полям $\mathbf{g}_i$, составляющим базис пространства $\mathcal{A}_H(G)$. Учитывая, что $\nabla \operatorname{div}\mathbf{g}_i=0$, получим 
\[ \begin{equation*}
\int_G \mathbf{v}\cdot \mathbf{g}_i d\mathbf{x}=0. \quad i=1,\dots,\rho_1. 
\end{equation*} \]
Итак, на полях $\mathbf{w}$, отличающихся на вектор-функцию $\mathbf{g}$ из $\mathcal{A}_H(G)$, его значения совпадают.

Пусть $\mathcal{A}/\mathcal{A}_H$ — фактор-пространство $\mathcal{A}(G)$ по $\mathcal{A}_H$, классы смежности $\mathcal{A}^{2k}(G)=\mathbf{A}^{2k}(G)/\mathcal{A}_H$, его элементы имеют вид $\mathbf{w}+\mathbf{g}$, где $\nabla \operatorname{div} \mathbf{g}=0$.

2.4. Оператор $\boldsymbol{\mathcal{N}}^{\bf 2 \boldsymbol k}_{\boldsymbol d}$ в фактор-пространстве $\boldsymbol{\mathcal{A}}^{\bf 2 \boldsymbol k}$

Шаг 2. Пространство $\mathcal{A}^{2k}(G)$ становится гильбертовым, если ввести скалярное произведение $\{\mathbf{u},\mathbf{w}\}_{2k}\equiv (\mathbf{u},\mathbf{w})_{2k}=((\nabla \operatorname{div})^{k}\mathbf{u},(\nabla \operatorname{div})^{k}\mathbf{w})$.

При $ \mathbf{f}\in \mathcal{A}^{2k}$, $\mathbf{g}_\eta\in \mathcal{A}^{2k}_0$ в терминах рядов Фурье (2.1) оно имеет вид
\[ \begin{equation*}
\{\mathbf{f},\mathbf{g}_\eta\}_{2k}\equiv 
( \mathcal{N}_d^{k}\mathbf{f}, \mathcal{N}_d^{k}\mathbf{g}_\eta)=
\sum_{j=1}^{\infty}{\nu}_{j}^{4k}
[(\mathbf{f},\mathbf{q}_{j})(\mathbf{g}_\eta,\mathbf{q}_{j})], 
\end{equation*} \]
так как 
\[ \begin{equation*}
\mathcal{N}_d^k\mathbf{f}=
\lim_{n\to\infty}
(\nabla\operatorname{div})^k(\mathbf{f}^n_{\mathcal{A}})= (-1)^k
\sum_{j=1}^{\infty}\nu^{2k}_j
(\mathbf{f},\mathbf{q}^{}_{j})\mathbf{q}_{j}(\mathbf{x}). 
\end{equation*} \]

Для того чтобы функционал $\rho$ служил элементом $( \mathcal{A}^{2k}_0)^*$ нужно, чтобы скалярное произведение $({\rho}(\mathbf{x}),\mathbf{w}(\mathbf{x}))$ существовало при всех $\mathbf{w}(\mathbf{x})\in \mathcal{A}^{2k}$ и удовлетворяло неравенству $({\rho}(\mathbf{x}),\mathbf{w}(\mathbf{x}))\leqslant M_{2k} \| \mathcal{N}_d^k \mathbf{w}\|$. Мы имеем 
\[ \begin{equation*}
({\rho},\mathbf{w}) - \sum_{j=1}^{\infty}
\bigl[(\mathbf{\rho},\mathbf{q}_{j}) / \nu^{2k}_j \bigr] [ \nu^{2k}_j (\mathbf{w},\mathbf{q}_{j})
] \leqslant 
M_{2k} \| \mathcal{N}_d^k\mathbf{w}\|, 
\end{equation*} \] 
где
\[ \begin{equation*}
M_{2k}= \biggl(\sum_{j=1}^{\infty}{\nu}_{j}^{-4k}(\mathbf{\rho},
\mathbf{q}_{j})^2 \biggr)^{1/2}.
\end{equation*} \] 

Знак равенства при заданных $(\mathbf{\rho},\mathbf{q}_{j})$ достижим. Значит, имеет место

Лемма 1. Условие $M_{2k} <\infty$ необходимо и достаточно для принадлежности ${\rho}(\mathbf{x})$ к $( \mathcal{A}^{2k}_0)^*$.

Величина $M_{2k}$ есть норма функционала $\rho $ в $( \mathcal{A}^{2k}_0)^*$, которая совпадает с нормой элемента
\[ \begin{equation*}
\mathcal{N}_d^{-k}\mathbf{f}= (-1)^k
\sum_{j=1}^{\infty}\nu^{-2k}_j
(\mathbf{f},\mathbf{q}_{j})\mathbf{q}_{j}(\mathbf{x}) \text{ при } \mathbf{f} \in \mathbf{A}^{-2k}. 
\end{equation*} \] 

Шаг 3. Отождествление пространства $(\mathbf{A}^{2k}_0)^*$ с пространством $\mathbf{A}^{-2k}$. 

Определим в $ (\mathbf{A}^{2k}_0)^*$ скалярное произведение: 
\[ \begin{equation*}
\{\mathbf{u},\mathbf{w}\}_{-2k}=
( \mathcal{N}_d^{-k}\mathbf{u}, \mathcal{N}_d^{-k}\mathbf{w}).
\end{equation*} \]
Переформулируем лемму 1 следующим образом.

Теорема 3. При заданном $\mathbf{v}\in \mathcal{A}^*$ и $k\geqslant 1$ уравнение $(\nabla \operatorname{div})^{2k}\mathbf{u}=\mathbf{v}$ разрешимо в пространстве $\mathbf{A}^{2k}$ тогда и только тогда, когда $\mathbf{v}\in\mathbf{A}^{-2k}$. В фактор-пространстве $\mathcal{A}/\mathcal{A}_H$ его решение $\mathbf{u}= \mathcal{N}_d^{-2k}\mathbf{v}$ определяется однозначно.

Доказательство. Действительно, если функционал $\mathbf{v}\in ( \mathbf{A}^{2k}_0)^*$, то его норма $M_{2k}<\infty$ и он принадлежит $\mathbf{A}^{-2k}$, так как 
\[ \begin{equation*}
\{\mathbf{v},\mathbf{v}\}_{-2k}=
( \mathcal{N}_d^{-k}\mathbf{v}, \mathcal{N}_d^{-k}\mathbf{v})=M_{2k}^2.
\end{equation*} \]
Ряд $ \mathcal{N}_d^{k} \mathbf{u}= \mathcal{N}_d^{k} [ \mathcal{N}_d^{-2k},\mathbf{v}]= \mathcal{N}_d^{-k} \mathbf{v}$ сходится в $\mathcal{A}_{\gamma}$, так как ${( \mathcal{N}_d^{-k} \mathbf{v}, \mathcal{N}_d^{-k} \mathbf{v})=M_{2k}^2}$.
Элемент $\mathbf{u}$ принадлежит $\mathbf{A}^{2k}$ и удовлетворяет уравнению 
\[ \begin{equation*}
(\nabla \operatorname{div})^{2k} \mathbf{u}= \mathcal{N}_d^{2k} [ \mathcal{N}_d^{-2k} \mathbf{v}]= \mathbf{v},
\end{equation*} \]
так как квадрат его нормы
\[ \begin{equation*}
\{\mathbf{u},\mathbf{u}\}_{2k}=
( \mathcal{N}_d^{k} \mathbf{u}, \mathcal{N}_d^{k} \mathbf{u})=( \mathcal{N}_d^{-k} \mathbf{v}, \mathcal{N}_d^{-k} \mathbf{v})=\{\mathbf{v},\mathbf{v}\}_{-m}=M_{2k}^2<\infty. 
\end{equation*} \]
Однозначность решения вытекает из определения и обратимости операторов $ \mathcal{N}_d$. Теорема доказана. $\square$

Теорема 3 показывает, что между пространствами $\mathbf{A}^{2k}$ и $ \mathbf{A}^{-2k}$ имеется соответствие. Согласно п. 2.2 между пространствами $\mathbf{A}^{2(k+1)}$ и $ \mathbf{A}^{2k}$ также имеется соответствие, что дополняет известное утверждение: все сепарабельные гильбертовы пространства изоморфны между собой.

3. Пространство $\mathbf{V}^{\bf 0}$ вихревых полей

Как отмечают Z. Yoshida и Y. Giga [6], разложение $\mathcal{B}(G)=\mathcal{B}_H(G)\oplus \mathbf{V}^{0}(G)$ содержится в книге C. B. Morrey [13]; они же рассмотрели⁷ пространство $\mathbf{V}^{0}$ и оператор $S$ c областью определения $\mathbf{W}^1=\{\textbf{ f}\in \mathbf{V}^0, \operatorname{rot} \mathbf{ f} \in\mathbf{V}^{0} \}$, который совпадает с $\operatorname{rot}\mathbf{u}$, если $\mathbf{u}\in \mathbf{W}^{1}$, и доказали, что оператор $S$ самосопряжен в $\mathbf{V}^{0}$, его спектр $\sigma(S)$ точечный и действительный: $\sigma(S)=\sigma_p(S)\subset\mathbb{R}$. Оператор $S$ имеет компактный обратный из $\mathbf{V}^{0}$ в $ \mathbf{W}^{1} \subset \mathbf{H}^{1}$. Значит, в пространстве $\mathbf{V}^{0}$ существует ортогональный базис, составленный из собственных полей оператора $S$. Авторы [6] базис не рассматривали. Он построен и использовался автором настоящей работы в [21]. Ранее в шаре $B$ были найдены их явные выражения [24].

В п. 1.6 мы вновь рассмотрели базис $\{\mathbf{q}^{\pm }_{j}\}$ в $\mathbf{V}^{0}(G)\subset \mathbf{L}_2(G)$:
\[ \begin{equation*}
\operatorname{rot}
\mathbf{q}_{j}^{\pm}=\pm\lambda_j \mathbf{q}_{j}^{\pm}, \quad 
\gamma\mathbf{n}\cdot\mathbf{q}_{j}^{\pm}=0, \quad 
\|\mathbf{q}^{\pm}_{j}\|=1, \quad j=1, 2, \dots , 
\end{equation*} \]
и доказали гладкость его полей: $\mathbf{q}^{\pm}_{j}\in \mathbf{C}^\infty(\bar{G})$.

В этом базисе элементы $\mathbf{V}^{0}(G)$ представляются рядами Фурье:
\[ \begin{equation}
\mathbf{f}_{\mathbf{V}}= 
\lim_{n\to\infty}(\mathbf{f}^{n}_{\mathbf{V}})=
\sum_{j=1}^{\infty}
[(\mathbf{f},\mathbf{q}^{+}_{j})\mathbf{q}^{+}_{j}+
(\mathbf{f},\mathbf{q}^{-}_{j})\mathbf{q}^{-}_{j}], 
\end{equation} \tag{3.1} \]
где $\mathbf{f}^{n}_{\mathbf{V}}$ — частичные суммы ряда, $\mathbf{f}_{\mathbf{V}}\equiv \mathcal{P}_{\mathbf{V}} \mathbf{f}$ — проекция поля $\mathbf{f} \in \mathbf{L}_2(G)$ на $\mathbf{V}^{0}$. Операторы $S$ и $S^{-1}$ являются преобразованиями этих рядов: 
\[ \begin{equation*}
S\mathbf{f}_{\mathbf{V}}=\lim_{n\to\infty}\operatorname{rot}
(\mathbf{f}^n_{\mathbf{V}})=\sum_{j=1}^{\infty}\lambda_j
[(\mathbf{f},\mathbf{q}^{+}_{j})\mathbf{q}^{+}_{j}-
(\mathbf{f},\mathbf{q}^{-}_{j})\mathbf{q}^{-}_{j}], 
\end{equation*} \]
\[ \begin{equation*}
S^{-1}\mathbf{f}_{\mathbf{V}}=
 \sum_{j=1}^{\infty}\lambda_j^{-1}
 [(\mathbf{f},\mathbf{q}^{+}_{j})\mathbf{q}^{+}_{j}-
 (\mathbf{f},\mathbf{q}^{-}_{j})\mathbf{q}^{-}_{j}]. 
\end{equation*} \]

3.1. Подпространства $\mathbf{W}^{\boldsymbol m}$ в $\mathbf{V}^{\bf 0}$ и их сопряженные

Эти пространства определяются соотношениями 
\[ \begin{equation*}
\mathbf{W}^m=\{\textbf{ f}\in \mathbf{V}^0,\dots,( \operatorname{rot})^m\mathbf{ f}\in \mathbf{V}^{0} \}, \quad m-1, 2, 3, \dots .
\end{equation*} \]
Согласно оценке (1.7), для любого поля $\mathbf{f}\in \mathbf{H}^m $ его проекция $\mathcal{P}_{V}\mathbf{f}\in \mathbf{W}^{m}$; если же $\mathbf{f}_{\mathbf V}\in \mathbf{W}^{m}$, то $\mathcal{P}_{V}\mathbf{f}_{\mathbf{V}}= \mathbf{f}_{\mathbf{V}}$, а его проекция на подпространство $\mathcal{A}$ равна 0. Значит, пространство $\mathbf{W}^m\subset \mathbf{H}^m$ и $\mathbf{W}^m$ есть проекция $ \mathbf{H}^m$ на $\mathbf{V}^0$.

Замыкание в норме $\mathbf{W}^{k}(G)$ пространства $\mathbf{C}^{\infty}_0(G)$ обозначается через $\mathbf{W}^{k}_0$, $k\geqslant 1$, а пространство $(\mathbf{W}^{k}_0)^*$ сопряжено с $\mathbf{W}_0^{k}$, его отождествляем с $\mathbf{W}^{-k}(G)$. В итоге получаем шкалу (цепь) вложенных пространств:
\[ \begin{equation*}
\subset \mathbf{W}^{m}\subset\dots\subset \mathbf{W}^1\subset \mathbf{V}^0\subset \mathbf{W}^{-1}\subset\dots\subset \mathbf{W}^{-m}\subset .
\end{equation*} \]

Оператор $S$ отображает пространство $\mathbf{W}^{m}$ на $ \mathbf{W}^{m-1}$, а $S^{-1}$ — обратно.

Автор изучал также оператор $S+\lambda I$, в [21, Лемма 1, п. 1.5] доказано следующее:

• оператор $S+\lambda I:\mathbf{W}^m \to \mathbf{W}^{(m-1)}$ фредгольмов при $m\geqslant1$;
• если $\lambda \overline{\in} \operatorname{Sp} (S)$, то оператор $S+\lambda I$ (и его обратный) отображают пространство $\mathbf{W}^{(m)}$ на $\mathbf{W}^{(m-1)}$ (и обратно) взаимно однозначно и непрерывно.

3.2. Оператор $\boldsymbol S^{\bf 2\boldsymbol m}$ на пространстве $\mathbf{W}^{\boldsymbol m}$

Пусть $m\geqslant 1$, а область $G$ такова, что $\rho= \operatorname{dim} \mathcal{B}_H>0$. По определению, оператор $S\mathbf{u}$ совпадает с $\operatorname{rot}\mathbf{u}$, если $\mathbf{u}\in \mathbf{W}^{1}\equiv \mathcal{D}(S)$. Поэтому оператор $S^{2m}$ на $\mathbf{W}^m\subset \mathbf{W}^1$ совпадает с $(\operatorname{rot})^{2m}$. Докажем следующее

Утверждение. Оператор $S^{2m}$ отображает пространство $\mathbf{W}^m$ на $\mathbf{W}^{-m}$ и обратно.

Приведем этапы доказательства этого утверждения. 

Шаг 1. Оператор $S^{2m}$ отображает пространство $\mathbf{W}^m$ на $(\mathbf{W}^m_0)^*$. 

Действительно, пусть $\mathbf{u}$ и $\mathbf{w}$ — произвольные элементы из $\mathbf{W}^m(G)$, а $\mathbf{w}_{\eta}$ — средняя вектор-функция поля $\mathbf{w}$, $\mathbf{w}_{\eta}\in \mathbf{W}_0^m(G)$. 

Рассмотрим главную часть $(\mathbf{u},\mathbf{w}_{\eta})_m\equiv (\operatorname{rot}^m\mathbf{u},\operatorname{rot}^m\mathbf{w}_{\eta})$ скалярного произведения в $\mathbf{W}^m(G)$; интегрируя по частям, получим 
\[ \begin{equation*}
(\mathbf{u},\mathbf{w}_{\eta})_m\equiv (\operatorname{rot}^{2m} \mathbf{u}, \mathbf{w}_{\eta})=
\int_G \mathbf{v}\cdot (\mathbf{w}_{\eta}) d\mathbf{x}. 
\end{equation*} \]

Левая часть имеет предел при $\eta\to 0$, равный $(\mathbf{u},\mathbf{w})_m$. Следовательно, правая часть также будет иметь предел и интеграл $\int_G \mathbf{v}\cdot \mathbf{w} d\mathbf{x}$ существует при любой $\mathbf{w}\in\mathbf{W}^m(G)$. Кроме того, из неравенства Коши–Буняковского следует оценка этого интеграла:
\[ \begin{equation*}
\biggl|\int_G
\mathbf{v}\cdot \mathbf{w} d\mathbf{x}\biggr|\leqslant
\|\mathbf{u}\|_{\mathbf{W}^m}\|\mathbf{w}\|_{\mathbf{W}^m}. 
\end{equation*} \]
Значит, $\mathbf{v}$ есть линейный функционал из $(\mathbf{W}_0^m)^*$. Применим его к полям $\mathbf{h}_i$, составляющим базис пространства $\mathcal{B}_H(G)$. Учитывая, что $\operatorname{rot}\mathbf{h}_i=0$, получим 
\[ \begin{equation*}
\int_G \mathbf{v}\cdot \mathbf{h}_i d\mathbf{x}=0, \quad
i=1,\dots,\rho. 
\end{equation*} \]

Итак, на полях $\mathbf{w}$, отличающихся на вектор-функцию $\mathbf{h}$ из $\mathcal{B}_H(G)$, его значения совпадают.

Пусть $\mathcal{B}/\mathcal{B}_H$ — фактор-пространство $\mathcal{B}(G)$ по $\mathcal{B}_H$, пространство $\mathcal{B}^m(G)-\mathbf{W}^m(G)/\mathcal{B}_H$, его элементы имеют вид $\mathbf{w}+\mathbf{h}$, где $\operatorname{rot} \mathbf{h}- 0$.

3.3. Оператор $\boldsymbol{S^{2m}}$ в фактор-пространстве $\boldsymbol{\mathcal{B}^{m}(G)}$

Шаг 2. Пространство $\mathcal{B}^m(G)$ становится гильбертовым, если ввести скалярное произведение $\{\mathbf{u},\mathbf{w}\}_m\equiv (\operatorname{rot}^m \mathbf{u},\operatorname{rot}^m \mathbf{w})$.

При $\mathbf{f}\in \mathcal{B}^m$, $\mathbf{g}_\eta\in \mathcal{B}^m_0$, в терминах рядов Фурье (3.1) 
\[ \begin{equation*}
\{\mathbf{f},\mathbf{g}_\eta\}_m\equiv 
(S^m\mathbf{f},S^m\mathbf{g}_\eta)=
\sum_{j=1}^{\infty}({\lambda}_{j}^{2m})
[(\mathbf{f},\mathbf{q}_{j}^+)(\mathbf{g}_\eta,\mathbf{q}_{j}^+)
+(\mathbf{f},\mathbf{q}_{j}^-)(\mathbf{g}_\eta,\mathbf{q}_{j}^-)],
\end{equation*} \]
так как 
\[ \begin{equation*}
S^m\mathbf{f}= 
\lim_{n\to\infty}\operatorname{rot}^m
(\mathbf{f}^n_{\mathbf{V}})= 
\sum_{j=1}^{\infty}\lambda_j^m
[(\mathbf{f},\mathbf{q}^{+}_{j})\mathbf{q}^{+}_{j}+ (-1)^m
(\mathbf{f},\mathbf{q}^{-}_{j})\mathbf{q}^{-}_{j}]. 
\end{equation*} \]

Функционал $\rho$ служит элементом $(\mathcal{B}^m_0)^*$, если скалярное произведение $({\rho}(\mathbf{x}),\mathbf{w}(\mathbf{x}))$ существует при всех $\mathbf{w}(\mathbf{x})\in \mathcal{B}^m$ и удовлетворяет неравенству $({\rho}(\mathbf{x}),\mathbf{w}(\mathbf{x}))\leqslant K_m\|S^m\mathbf{w}\|$. Мы имеем
\[ \begin{equation*}
({\rho},\mathbf{w})=\sum_{j=1}^{\infty}
\bigl[(\mathbf{\rho},\mathbf{q}_{j}^+)(\mathbf{w},\mathbf{q}_{j}^+)
+(\mathbf{\rho},\mathbf{q}_{j}^-)(\mathbf{w},\mathbf{q}_{j}^-) \bigr]\leqslant
K_m \|S^m \mathbf{w}\|, 
\end{equation*} \]
где
\[ \begin{equation*}
K_m= \biggl(\sum_{j=1}^{\infty}({\lambda}_{j}^{-2m})[(\mathbf{\rho},
\mathbf{q}^{+}_{j})^2+(\mathbf{\rho},\mathbf{q}^{-}_{j})^2]\biggr)^{1/2}. 
\end{equation*} \]

Знак равенства при заданных $(\mathbf{\rho},\mathbf{q}^{\pm}_{j})$ достижим. Значит, имеет место

Лемма 2. Условие $K_m<\infty$ необходимо и достаточно для принадлежности ${\rho}(\mathbf{x})$ к $(\mathcal{B}_0^m)^*$.

Величина $K_m$ — норма функционала $\rho $ в $(\mathcal{B}^m_0)^*$, которая совпадает с нормой элемента
\[ \begin{equation*}
S^{-m} \mathbf{f}= 
\sum_{j=1}^{\infty}\lambda_j^{-m}
[(\mathbf{f},\mathbf{q}^{+}_{j})\mathbf{q}^{+}_{j}+ (-1)^m
(\mathbf{f},\mathbf{q}^{-}_{j})\mathbf{q}^{-}_{j}]
 \text{ при } \mathbf{f} \in \mathbf{W}^{-m}. 
\end{equation*} \]

Таким образом, пространство $(\mathcal{B}_0^m)^*$ можно отождествить с пространством $\mathbf{W}^{-m}$, определить в нем скалярное произведение 
\[ \begin{equation*}
\{\mathbf{u},\mathbf{w}\}_{-m}= (S^{-m} \mathbf{u},S^{-m}\mathbf{w}), 
\end{equation*} \]
а лемму 2 переформулировать следующим образом.

Теорема 4.  При заданном $\mathbf{v}$ в объединении пространств $\mathbf{W}^{-n}(G)$ и $m\geqslant 1$ уравнение $\operatorname{rot}^{2m}\mathbf{u}=\mathbf{v}$ разрешимо в пространстве $\mathcal{B}^{m}(G)$ тогда и только тогда, когда $\mathbf{v}\in\mathbf{W}^{-m}(G)$. Его решение $\mathbf{u}=S^{-2m}\mathbf{v}$ в классе $\mathcal{B}(G)/\mathcal{B}_H$ определяется однозначно.

Доказательство. Действительно, если функционал $\mathbf{v}\in ( \mathcal{B}^{ m}_0)^*$, то его норма $K_m<\infty$ и он принадлежит $\mathbf{W}^{-m}$, так как
\[ \begin{equation*}
\{\mathbf{v},\mathbf{v}\}_{-m}=
( S^{-m}\mathbf{v}, S^{-m}\mathbf{v})=K_{m}^2.
\end{equation*} \]
Ряд $ S^{m}\mathbf{u}= S^{m} [ S^{-2m}\mathbf{v}]= S^{-m} \mathbf{v}$ сходится в $\mathbf{V}^0$, так как $(S^{-m}\mathbf{v}, S^{-m}\mathbf{v})= K_m^2$. Элемент $\mathbf{u}$ принадлежит $\mathbf{W}^{m}$ и удовлетворяет уравнению 
\[ \begin{equation*}
\operatorname{rot}^{2m} \mathbf{u}=S^{2m} \mathbf{u}= S^{2m} [S^{-2m}\mathbf{v}]= \mathbf{v},
\end{equation*} \]
так как квадрат его нормы
\[ \begin{equation*}
\{\mathbf{u},\mathbf{u}\}_{m}=
(S^{m}\mathbf{u}, S^{m}\mathbf{u})=( S^{-m}\mathbf{v}, S^{-m}\mathbf{v})=\{\mathbf{v},\mathbf{v}\}_{-m}=
K_m^2<\infty.
\end{equation*} \]
Однозначность решения вытекает из определения и обратимости операторов $S$. Теорема доказана. $\square$

Теорема 4 показывает, что между пространствами $\mathbf{W}^{m}$ и $ \mathbf{W}^{-m}$ имеется соответствие. Между пространствами $\mathbf{W}^{(m+1)}$ и $\mathbf{W}^{m}$ также имеется соответствие, что дополняет известное утверждение: все сепарабельные гильбертовы пространства изоморфны между собой.

4. Модельные краевые задачи в сети $\bf \{\mathbf{C}\boldsymbol{(2k, m)}\}_{\boldsymbol{k,m}}$

Пусть область $\Omega$ гомеоморфна шару, а $ \mathbf{C}(2k,m)- \mathbf{A}^{2k} \oplus \mathbf{W}^m$ — классы в cети пространств Соболева, числа $k$, $m $ — целые.

4.1. Операторы $\boldsymbol{ \mathcal{N}_d}$ и $\boldsymbol S$ в пространствах $ \boldsymbol{\mathcal{A}}$ и $ \boldsymbol{\mathcal{B}}$

Если собственные поля $\mathbf{q}_{j}(\mathbf{x})$ и $\mathbf{q}_{j}^\pm(\mathbf{x})$ градиента дивергенции и ротора известны, то элементы $\mathbf{f}_\mathcal{A}\in \mathcal{A}$ и $\mathbf{f}_\mathbf{V}\in \mathcal{B}=\mathbf{V}^0$ представляются рядами Фурье: 
\[ \begin{equation*}
\mathbf{f}_\mathcal{A}=
\sum_{j=1}^{\infty} (\mathbf{f},{\mathbf{q}}_{j}) \mathbf{q}_{j }(\mathbf{x}), \quad 
\mathbf{f}_\mathbf{V}=\sum_{j=1}^{\infty}\bigl[(\mathbf{f},{\mathbf{q}}_{j}^{+})
\mathbf{q}_{j}^{+}(\mathbf{x})+
(\mathbf{f},{\mathbf{q}}_{j}^{-})
\mathbf{q}_{j}^{-}(\mathbf{x})\bigr], 
\end{equation*} \]
а элементы $\mathbf{f}$ из $\mathbf{L}_2(\Omega)$ — их суммой $\mathbf{f}_\mathcal{A}+\mathbf{f}_\mathbf{V}$. Причем $\operatorname{rot} \mathbf{f}_\mathcal{A}=0$ и $\operatorname{div} \mathbf{f}_\mathbf{V}=0$, поэтому $\operatorname{div} \mathbf{f}= \operatorname{div} \mathbf{f}_\mathcal{A}$, а $\operatorname{rot} \mathbf{f}= \operatorname{rot} \mathbf{f}_\mathbf{V}$. Скалярное произведение $(\mathbf{f}, \mathbf{g})$ полей $\mathbf{f}$ и $\mathbf{g}$ из $\mathbf{L}_2(\Omega)$ равно $(\mathbf{f}_\mathcal{A}, \mathbf{g}_\mathcal{A})+(\mathbf{f}_\mathbf{V}, \mathbf{g}_\mathbf{V})$.

Операторы $\mathcal{N}_d^p$ в $\mathcal{A}$, $S^p$ в $\mathcal{B}$ и обратные при $p=1, 2, \dots$ действуют так:
\[ \begin{equation*}
\mathcal{N}^p_d \mathbf{f}_\mathcal{A}=(-1)^p\sum_{j=1}^{\infty}(\nu^{2p}_j) (\mathbf{f},{\mathbf{q}}_{j}) \mathbf{q}_{j },
\end{equation*} \]
\[ \begin{equation*}
S^p \mathbf{f}_\mathbf{V}=\sum_{j=1}^{\infty}\lambda^p_{j}\bigl[(\mathbf{f},{\mathbf{q}}_{j}^{+})
\mathbf{q}_{j}^{+}+(-1)^p(\mathbf{f},{\mathbf{q}}_{j}^{-})
\mathbf{q}_{j}^{-}\bigr], 
\end{equation*} \]
\[ \begin{equation*}
\mathcal{N}_d ^{-p}\mathbf{f}_\mathcal{A}=(-1)^p
\sum_{j=1}^{\infty}(\nu^{-2p}_j) (\mathbf{f},{\mathbf{q}}_{j}) \mathbf{q}_{j }, 
\end{equation*} \]
\[ \begin{equation*}
S^{-p}\mathbf{f}_\mathbf{V}=\sum_{j=1}^{\infty}\lambda_{j}^{-p}\bigl[(\mathbf{f},{\mathbf{q}}_{j}^{+}) \mathbf{q}_{j}^{+}+(-1)^p
(\mathbf{f},{\mathbf{q}}_{j}^{-}) \mathbf{q}_{j}^{-} \bigr]. 
\end{equation*} \]
Так как $\mathcal{A}_{H}= \mathcal{B}_{H}= \emptyset$, то $\mathcal{A}_{\gamma }^0= \mathcal{A}_{\gamma }(B)=\{\nabla h, h\in H^2(B): \gamma (\mathbf{n}\cdot \nabla) h-0 \}$, $ \mathbf{V}^0=\{\mathbf{g}\in \mathbf{L}_2(B)$, $\mathbf{g} \perp \mathcal{A}$, $\operatorname{div} \mathbf{g}=0$, $\gamma (\mathbf{n}\cdot \mathbf{g})-0 \}$, и пространства
\[ \begin{equation*}
\mathbf{A}^{2k}\equiv \{\mathbf{f}\in \mathcal{A}_{\gamma }, \dots, 
(\nabla \operatorname{div})^k \mathbf{f}\in \mathcal{A}_{\gamma }\}\text{ и } 
\mathbf{W}^m \equiv \{\mathbf{g}\in \mathbf{V}^0,\dots, (\operatorname{rot})^m \mathbf{g} \in \mathbf{V}^0\} 
\end{equation*} \]
при $k\geqslant 1$, $m\geqslant 1$; $\mathbf{A}^{0}\equiv \mathcal{A}_{\gamma }$, $\mathbf{W}^{0}\equiv \mathbf{V}^{0}\equiv \mathcal{B}$. 

Имеют место вложения
\[ \begin{equation}
\dots\subset \mathbf{A}^{2k}\subset\dots \subset \mathbf{A}^{2} \subset \mathcal{A}^0_{\gamma } \subset \mathbf{A}^{-2} \subset \dots \subset \mathbf{A}^{-2k}\subset \dots, 
\end{equation} \tag{4.1} \]
\[ \begin{equation}
\dots\subset \mathbf{W}^m\subset \dots\subset \mathbf{W}^1\subset \mathbf{V}^{0}\subset \mathbf{W}^{-1}\subset\dots\subset \mathbf{W}^{-m}\subset\dots. 
\end{equation} \tag{4.2} \]
В шкале пространств (4.1) оператор $\mathcal{N}_d$ действует слева направо, а оператор $\mathcal{N}^{-1}_d$ — справа налево: $\mathcal{N}_d$ отображает $\mathbf{A}^{2k}$ на $\mathbf{A}^{2(k-1)}, \dots, \mathbf{A}^{4}$ на $\mathbf{A}^{2}$, оператор $\mathcal{N}^{2}_d$ отображает $\mathbf{A}^{2}$ на пространство $\mathbf{A}^{-2}$, сопряженное с $ \mathbf{A}_0^{2}$, а далее оператор $\mathcal{N}_d$ отображает $\mathbf{A}^{-2}$ в $\mathbf{A}^{-4}$ и так далее. 

Рассмотрен также оператор $\mathcal{N}_d+\lambda I$. Доказано, что 

• оператор $\mathcal{N}_d+\lambda I:\mathbf{A}^{{2(k+1)}} \to \mathbf{A}^{2k}$ — фредгольмов, $k\geqslant 0$ [22, п. 2.10];
• если $\lambda \overline{\in} \operatorname{Sp} (\mathcal{N}_d)$, то оператор $\mathcal{N}_d+\lambda I$ (и обратный) отображает пространство $\mathbf{A}^{2(k+1)}$ на $ \mathbf{A}^{2k}$ (и обратно) взаимно однозначно и непрерывно [21, Лемма 2, п. 1.7].

Аналогично действуют операторы $S: \mathbf{W}^m \to \mathbf{W}^{m-1}, \dots, \mathbf{W}^2 \to \mathbf{W}^1$, $S^2: \mathbf{W}^1\to \mathbf{W}^{-1}\equiv (\mathbf{W}_0^{1})^*$, далее снова $S: \mathbf{W}^{-1} \to \mathbf{W}^{-2}\to \dots\to \mathbf{W}^{-m}$; операторы $S^{-1}$ действуют в обратную сторону.

Рассмотрен также оператор $S+\lambda I$. Доказано, что

• оператор $S+\lambda I:\mathbf{W}^m \to \mathbf{W}^{(m-1)}$ — фредгольмов, $m\geqslant 1$;
• если $\lambda \overline{\in} \operatorname{Sp} (S)$, то оператор $S+\lambda I$ (и его обратный) отображают пространство $\mathbf{W}^{(m)}$ на $\mathbf{W}^{(m-1)}$ (и обратно) взаимно однозначно и непрерывно [21, Лемма 1 п. 1.5].

Прямые суммы пространств $\mathbf{A}^{2k}$ и $\mathbf{W}^m$ мы обозначили как $\mathbf{C}(2k,m)$, они принадлежат $\mathbf{L}_{2}(\Omega)$, если $k\geqslant 0$, $m\geqslant 0$ — целые.

Оператор $(\mathcal{N}_d^{-1}, I)$ отображает класс $\mathbf{C}(2k,m)$ на $\mathbf{C}(2(k+1),m)$, оператор $(I, S^{-1})$ — на $ \mathbf{C}(2k,m+1)$, а оператор $(\mathcal{N}_d^{-p}, S^{-q})$ — на класс $ \mathbf{C}(2(k+p), m+q)$ при $p$, $q>0$.

Отметим, что операторы $(\nabla \operatorname{div})^p$ и $(\operatorname{rot})^{2p}$ — аналоги полигармонических операторов $\Delta^p$ в классах $\mathcal{A}$ и $\mathcal{B}$, $p$ — натуральное число. 

4.2. Модельные краевые задачи в классах $\mathbf{C}\boldsymbol{(2k, m)}$

Рассматриваемые классы $\mathbf{C}(2k, m)$ пространств Соболева принадлежат двухпараметрической сети (прямой сумме шкал (4.1) и (4.2)).

Пространство $\mathbf{A}^{2k}(\Omega)\subset \mathbf{H}^{2k}(\Omega)$ и является проекцией $\mathbf{H}^{2k}$ на $\mathcal{A}$, а пространство $\mathbf{W}^{m}(\Omega)\subset \mathbf{H}^{m}(\Omega)$ является проекцией $\mathbf{H}^{m}$ на $\mathcal{B}$, поэтому класс $\mathbf{C}(2k, 2k)$ совпадает с пространством Соболева $\mathbf{H}^{2k}(\Omega)$. Рассмотрим следующие задачи.

Задача 1. Задано поле $\mathbf{f}\in \mathbf{C}(2k, m) \subset \mathbf{L}_{2}(\Omega)$. Найти поле $\mathbf{u}$ в $\mathbf{L}_{2}(\Omega)$ такое, что 
\[ \begin{equation*}
 \operatorname{rot} \mathbf{u}+\lambda \mathbf{u}=
 \mathbf{f} \textit{ в } \Omega, \quad \gamma(\mathbf{n}\cdot \mathbf{u})=0.
\end{equation*} \]

Другими словами, необходимо найти поле $\mathbf{u}$ в $ \mathbf{L}_{2}(\Omega)$, для которого
\[ \begin{equation*}
(\mathbf{u},(\operatorname{rot}+\lambda I)\mathbf{ v})= ( \mathbf{f}, \mathbf{v})
\end{equation*} \]
для любого поля $\mathbf{v}\in \mathbf{C}_0^{\infty}(\Omega)$ и выполняется краевое условие $\gamma(\mathbf{n}\cdot \mathbf{u})=0$, если след $\gamma(\mathbf{n}\cdot \mathbf{u})$ на границе $\Omega$ существует. 

Задача 2. Задано поле $\mathbf{f}\in \mathbf{C}(2k, m) \subset \mathbf{L}_{2}(\Omega)$. Найти поле $\mathbf{w}$ в $\mathbf{L}_{2}(\Omega)$ такое, что
\[ \begin{equation*}
 \nabla \operatorname{div} \mathbf{w}+\lambda \mathbf{w}=
 \mathbf{f} \textit{ в } \Omega, \quad \gamma(\mathbf{n}\cdot \mathbf{w})=0, 
\end{equation*} \]
если след $\gamma(\mathbf{n}\cdot \mathbf{w})$ на границе $\Omega$ существует.

Применим метод ортогонального проектирования уравнений этих задач в пространстве $\mathbf{L}_{2}(\Omega)= \mathcal{A} \oplus \mathcal{B}$ на подпространства $\mathcal{A}$ и $ \mathcal{B}$.

Используя разложение полей $\mathbf{f}$, $\mathbf{u}$ и $\mathbf{w}$ в суммы $\mathbf{f}_\mathcal{A}+\mathbf{f}_\mathbf{V}$, $\mathbf{u}_\mathcal{A}+\mathbf{u}_\mathbf{V}$ и ${\mathbf{w}_\mathcal{A}+\mathbf{w}_\mathbf{V}}$ и расширения $S$ и $\mathcal{N}_d$ операторов ротор и градиент дивергенции, эти уравнения запишем в виде уравнений-проекций на $\mathcal{A}$ и $\mathcal{B}$:
\[ \begin{equation*}
\lambda\mathbf{u}_\mathcal{A}=\mathbf{f}_\mathcal{A}, \quad 
(S+\lambda I)\mathbf{u}_\mathbf{V}=\mathbf{f}_\mathbf{V},
\end{equation*} \]
\[ \begin{equation}
(\mathcal{N}_d+\lambda I)\mathbf{w}_\mathcal{A}=\mathbf{f}_\mathcal{A},
\quad
\lambda \mathbf{w}_\mathbf{V}=\mathbf{f}_\mathbf{V},
\end{equation} \tag{4.3} \]
так как $\operatorname{rot} \mathbf{u}_\mathcal{A}=0$ в $\mathcal{A}$, $\nabla\operatorname{div} \mathbf{w}_\mathbf{V}=0$ в $\mathcal{B}\equiv \mathbf{V}^0$.

Задача 3. Задано поле $\mathbf{f}\in \mathbf{C}(2k, m) \subset \mathbf{L}_{2}(\Omega)$. Найти поле $\mathbf{u}$ в $\mathbf{L}_{2}(\Omega)$ такое, что
\[ \begin{equation*}
 \nabla \mathbf {div} \mathbf{u}+{\bf rot} \mathbf{u}+\lambda \mathbf{u}=
 \mathbf{f} \textit{ в } \Omega, \quad \gamma(\mathbf{n}\cdot \mathbf{u})=0, 
\end{equation*} \]
если след $\gamma(\mathbf{n}\cdot \mathbf{u})$ на границе $\Omega$ существует.

Это уравнение эквивалентно двум уравнениям-проекциям:
\[ \begin{equation}
(\mathcal{N}_d+\lambda I)\mathbf{u}_\mathcal{A}=\mathbf{f}_\mathcal{A}, 
\quad (S+\lambda I)\mathbf{u}_\mathbf{V}=\mathbf{f}_\mathbf{V}. 
\end{equation} \tag{4.4} \]

Замечание. Если пространство $\mathcal{B}_H(G)$ не пусто и $\lambda\neq 0$, то уравнение 
\[ \begin{equation*}
(\nabla\operatorname{div} +\operatorname{rot} +\lambda I)\mathbf{u}=\mathbf{f}
\end{equation*} \]
распадается на три проекции
\[ \begin{equation*}
(\mathcal{N}_d+\lambda I)\mathbf{u}_\mathcal{A}=\mathbf{f}_\mathcal{A}, 
\quad (S+\lambda I)\mathbf{u}_\mathbf{V}=\mathbf{f}_\mathbf{V}, \quad 
\lambda\mathbf{u}_{B_H}=\mathbf{f}_{B_H} 
\end{equation*} \]
 — уравнения второго, первого и нулевого порядковсоответственно.

Доказано, что уравнения $(S+\lambda I) \mathbf{u}_\mathbf{V}=\mathbf{f}_\mathbf{V}$ и $(\mathcal{N}_d+\lambda I)\mathbf{u}_\mathcal{A}=\mathbf{f}_\mathcal{A}$ разрешимы по Фредгольму и что при $\lambda \overline{\in} \operatorname{Sp} (\mathcal{N}_d)$ оператор $\mathcal{N}_d+\lambda I$ обратим, соответственно, при $\lambda \overline{\in} \operatorname{Sp} ( S)$ оператор $ S+\lambda I$ обратим (см. п. 4.1). 

Следовательно, справедлива следующая теорема.

Теорема 5. При $\lambda\neq \operatorname{Sp} (S)$ единственное решение задачи 1 имеет вид
\[ \begin{equation*}
\mathbf{u}={\mathbf{u}_{\mathcal{A}}}+{\mathbf{u}_{\mathbf{V}}}, \textit{ где } 
{\mathbf{u}_{\mathcal{A}}}={\lambda}^{-1}\mathbf{f}_\mathcal{A}, \quad 
 \mathbf{u}_\mathbf{V}=(S+\lambda I)^{-1} \mathbf{f}_\mathbf{V}.
\end{equation*} \]

Решение $\mathbf{u}\in \mathbf{C}(2k, m+1)$ при $\mathbf{f}\in \mathbf{C}(2k, m)$. Кроме того,
\[ \begin{equation*}
\mathbf{u}={\lambda}^{-1}\mathbf{f}_{\mathcal{A}}, \textit{ если }
\mathbf{f}_{\mathcal{A}}\in \mathcal{A} \textit{ или } 
\mathbf{f}_{\mathcal{A}}\in\mathcal{A}_{\gamma}, \textit{ а }
\mathbf{f}_{\mathbf{V}}=0;
\end{equation*} \]
\[ \begin{equation*}
\mathbf{u}=(S+\lambda I)^{-1}\mathbf{f}_\mathbf{V}\in \mathbf{W}^1, \textit{ если }
\mathbf{f}\in \mathcal{B}\bot \mathcal{A}, \textit{ а } 
\mathbf{f}_{\mathcal{A}}=0.
\end{equation*} \]

При $\mathbf{f}\in \mathbf{C}^{\infty}_0(\Omega)$ поле $\mathbf{u}\in \mathbf{C}^{\infty}(\overline{\Omega})$ есть классическое решение задачи.

Доказательство см. в [21].

В частности, при $\Omega=B$ согласно п. 1.9 и формуле (1.17) имеет место

Следствие 1. Если область $\Omega=B$ есть шар, $\psi_n(\lambda R)\neq 0$ $\forall n\in {\mathbb {N}}$, числа $k$, $m$ целые, а поле $\mathbf{f}\in \mathbf{A}^{2k}(B)\oplus \mathbf{W}^m(B)$, то решение задачи 1 существует, единственно и принадлежит классу $\mathbf{A}^{2k}(B)\oplus \mathbf{W}^{m+1}(B)$.

Отметим также свойство отображения $\operatorname{rot}+\lambda I$: 

Лемма 3. При $\lambda \overline{\in} \operatorname{Sp} (S)$ и целых $k$, $m$ операторы $\operatorname{rot}+\lambda I$ (и обратный) отображают класс $\mathbf{C}(2k, m+1)$ на $\mathbf{C}(2k, m)$ взаимно однозначно и непрерывно.

Следующая теорема аналогична предыдущей. Ввиду соотношений (4.3) ее доказательство основано на свойствах оператора $(\mathcal{N}_d+\nu^2 I)$.

Теорема 6. При $\nu^2 \neq \operatorname{Sp}(-\mathcal{N}_d)$ единственное решение задачи 2 имеет вид
\[ \begin{equation*}
\mathbf{w}={\mathbf{w}_{\mathcal{A}}}+{\mathbf{w}_{\mathbf{V}}}, \textit{ где }
{\mathbf{w}_{\mathcal{A}}}=(\mathcal{N}_d+\nu^2 I)^{-1}\mathbf{f}_\mathcal{A}, 
\quad 
\mathbf{w}_\mathbf{V}=\nu^{-2} \mathbf{f}_\mathbf{V}.
\end{equation*} \]

Решение $\mathbf{w}\in \mathbf{C}(2(k+1), m)$ при $\mathbf{f}\in \mathbf{C}(2k, m)$. Кроме того,
\[ \begin{equation*}
\mathbf{w}=(\mathcal{N}_d+\nu^2 I)^{-1}\mathbf{f}_\mathcal{A}\in \mathbf{A}^{2}(\Omega) \textit{ при }
\mathbf{f}_\mathcal{A}\in \mathcal{A}_{\gamma}, \quad 
\mathbf{f}_\mathbf{V}=0;
\end{equation*} \]
\[ \begin{equation*}
\mathbf{w}=\nu^{-2} \mathbf{f}_\mathbf{V} \textit{ при }
\mathbf{f}_\mathcal{A}=0,\quad 
\mathbf{f}_{\mathbf{V}}\in \mathcal{B}.
\end{equation*} \]

При $\mathbf{f}\in \mathbf{C}^{\infty}_0(\Omega)$ поле $\mathbf{w}\in \mathbf{C}^{\infty}(\overline{\Omega})$ есть классическое решение задачи.

В частности, при $\Omega=B$ согласно п. 1.10 имеет место

Следствие 2. Если область $\Omega=B$ есть шар, $\psi'_n(\nu R)\neq 0$ $\forall n \geqslant 0$, $k$, $m$ целые, а поле $\mathbf{f}\in \mathbf{A}^{2k}(B)\oplus \mathbf{W}^m(B)$, то решение задачи 2 при $\lambda=\nu^2$ существует, единственно и принадлежит классу $\mathbf{A}^{2(k+1)}(B)\oplus \mathbf{W}^{m}(B)$.

Отметим также свойство отображения $\nabla \operatorname{div}+\nu^2 I$.

Лемма 4. При $\nu^2 \neq \operatorname{Sp}(-\mathcal{N}_d)$, целых $k$, $m$ оператор $\nabla \operatorname{div}+\nu^2 I$ отображает $\mathbf{C}(2(k+1), m)$ на класс $\mathbf{C}(2k,m)$ взаимно однозначно и непрерывно.

Эти утверждения говорят о соответствии пространств и операторов.

Согласно формуле (4.4), имеет место следующее утверждение.

Теорема 7. При $\lambda\neq \operatorname{Sp} (-\mathcal{N}_d)\cup \operatorname{Sp} (S)$ единственное решение задачи 3 имеет вид
\[ \begin{equation*}
\mathbf{u}={\mathbf{u}_{\mathcal{A}}}+{\mathbf{u}_{\mathbf{V}}}, \textit{ где } 
{\mathbf{u}_{\mathcal{A}}}=(\mathcal{N}_d+\lambda I)^{-1}\mathbf{f}_\mathcal{A}, 
\quad 
\mathbf{u}_\mathbf{V}=(S+\lambda I)^{-1} \mathbf{f}
 _\mathbf{V}.
\end{equation*} \]

Решение $\mathbf{u}\in \mathbf{C}(2(k+1), m+1)$ при $\mathbf{f}\in \mathbf{C}(2k, m)$, где $k$, $m$ целые.

4.3. Оператор Стокса в пространствах $\mathbf{C}\boldsymbol{(2k, m)}$

Задача Стокса состоит в определении поля $\mathbf{v}$ и функции $p$ в области $\Omega$ из условий 
\[ \begin{equation*} 
\nu \Delta \mathbf{v}-\nabla p=\mathbf{f}, \quad \operatorname{div} \mathbf{v}=0, \quad \mathbf{v}|_{\omega}=\mathbf{g} 
\end{equation*} \]
при заданных полях $\mathbf{f}$ в $\Omega$ и $\mathbf{g}$ на ее границе $\omega$ [9]. 

Собственные поля $\mathbf{w}_k$ оператора Стокса являются решениями задач
\[ \begin{equation*}
\nu \Delta \mathbf{w}_k-\nabla p_k=\mu_k \mathbf{w}_k, \quad \operatorname{div} \mathbf{w}_k=0, \quad \mathbf{w}_k|_{\omega}=0. 
\end{equation*} \]

Мы рассмотрим оператор Стокса c другими краевыми условиями: 
\[ \begin{equation}
\nu \Delta \mathbf{u}-\nabla p=\mathbf{f}, \quad 
\operatorname{div} \mathbf{u}=0, \quad 
\mathbf{n}\cdot \mathbf{u}|_{\omega}= \mathbf{n}\cdot \operatorname{rot} \mathbf{u}|_{\omega}=0 
\end{equation} \tag{4.5} \]
в ортогональных подпространствах $\mathcal{A}$ и $\mathcal{B}$ в $\mathbf{L}_2(\Omega)$.

По определению $\nabla p\in \mathcal{A}$ при $p\in H^1(\Omega)$, поле $\mathbf{u} \in \mathcal{B}$, а оператор
\[ \begin{equation*}
\Delta \mathbf{u}= - (\operatorname{rot})^2 \mathbf{u} 
\end{equation*} \]
на соленоидальных полях $\mathbf{u}$. 

Используя разложение $\mathbf{f}_\mathcal{A}+\mathbf{f}_\mathcal{B}$ поля $\mathbf{f}\in \mathbf{L}_2(\Omega)$ и самосопряженное расширение $S$ оператора ротор, первое соотношение в (4.5) запишем в виде двух проекций:
\[ \begin{equation*}
-\nabla p=\mathbf{f}_\mathcal{A}, \quad 
-\nu S^2 \mathbf{u}= \mathbf{f}_\mathcal{B}. 
\end{equation*} \]
Так как $\mathbf{f}_\mathcal{A}= \nabla h$, где $h\in H^1(\Omega)$, и оператор $S$ обратим, из этих соотношений имеем
\[ \begin{equation}
p=-h +c,\quad \mathbf{u}=- \nu^{-1} S^{-2} \mathbf{f}_\mathcal{B}, \quad c=\rm const. 
\end{equation} \tag{4.6} \]

Таким образом, справедливо следующее утверждение.

Теорема 8. Решение задачи (4.5) имеет вид (4.6).

В частности,
\[ \begin{equation*}
p=-h +c, \mathbf{u}=0, \textit{ если } \mathbf{f}= \mathbf{f}_{\mathcal{A}}\in \mathcal{A}
\textit{ или }
\mathbf{f}\in\mathcal{A}_{\gamma}, \textit{ а } \mathbf{f}_{\mathcal{B}}=0;
\end{equation*} \]
\[ \begin{equation*}
p= c, \mathbf{u}=- \nu^{-1} S^{-2} \mathbf{f}_\mathcal{B}, \textit{ если } 
\mathbf{f}\in \mathcal{B}\bot \mathcal{A}, \textit{ а } 
\mathbf{f}_{\mathcal{A}}=0, \mathbf{u} \in \mathbf{W}^2;
\end{equation*} \]
\[ \begin{equation*}
(\nabla p,\mathbf{u})\in (\mathbf{A}^{2k}, \mathbf{W}^{m+2}), \textit{ если } 
(\mathbf{f}_\mathcal{A}, \mathbf{f}_\mathcal{B})\in (\mathbf{A}^{2k}, \mathbf{W}^{m})= \mathbf{C}(2k, m), k, m > 0.
\end{equation*} \]

Если же $\mathbf{f}\in \mathbf{C}^{\infty}_0(\Omega)$, то пара $( p,\mathbf{u})\in \mathbf{C}^{\infty}(\overline{\Omega})$ есть классическое решение задачи.

Собственные поля $\mathbf{w}_k$ оператора (4.5) удовлетворяют уравнениям
\[ \begin{equation*}
\nabla p_k=0, \quad -\nu S^2 \mathbf{w}_k= \mu_k \mathbf{w}_k.
\end{equation*} \]
Следовательно, $p_k= \rm const$. Оператор $S$ есть расширение оператора ротора. Собственные поля $\mathbf{q}^{\pm }_{j}$ ротора образуют базис в $\mathbf{V}^{0}(G)$, их нормы $\|\mathbf{q}^{\pm}_{j}\|=1, $ и
\[ \begin{equation*}
\operatorname{rot}
\mathbf{q}_{j}^{\pm}=\pm\lambda_j \mathbf{q}_{j}^{\pm}, \quad 
\gamma\mathbf{n}\cdot\mathbf{q}_{j}^{\pm}=0, \quad \quad j=1, 2, \dots . 
\end{equation*} \]
Поля $\mathbf{q}^{\pm }_{j}$ являются также собственными полями оператора $-\nu S^2$, так как
\[ \begin{equation*}
\operatorname{rot}^2
\mathbf{q}_{j}^{\pm}=\pm \lambda_j \operatorname{rot}\mathbf{q}_{j}^{\pm}=
\lambda_j^2 \mathbf{q}_{j}^{\pm}, \quad 
\gamma\mathbf{n}\cdot\mathbf{q}_{j}^{\pm}= \gamma\mathbf{n}\cdot \operatorname{rot}\mathbf{q}_{j}^{\pm}= 0, 
\end{equation*} \]
\[ \begin{equation*}
-\nu S^2 \mathbf{q}_{j}^{\pm}=-\nu \lambda_j^2 \mathbf{q}_{j}^{\pm}, \quad 
\gamma\mathbf{n}\cdot\mathbf{q}_{j}^{\pm}= 
\gamma\mathbf{n}\cdot \operatorname{rot}\mathbf{q}_{j}^{\pm}= 0, 
\end{equation*} \]
его собственные значения $\mu_{j}=-\nu \lambda_j^2$ определяются собственными значениями ротора $\lambda_j$ и параметром вязкости $\nu$. 

Конкурирующие интересы. Я заявляю, что у меня нет конкурирующих интересов в отношении данной статьи.
Авторская ответственность. Я несу полную ответственность за представление окончательной рукописи в печатном виде. Я одобрил окончательный вариант рукописи.
Благодарности. Я выражаю благодарность академику РАН профессору В. П. Маслову, профессору д. ф.-м. н. С. Ю. Доброхотову, профессору д. ф.-м. н. М. Д. Рамазанову и доценту к. ф.-м. н. Р. Н. Гарифуллину за поддержку при написании данной статьи, а также к. ф.-м. н. М. Н. Саушкину, чья редакторская правка способствовала улучшению содержания рукописи.

---

¹Если $\mathbf{u}$ и $\operatorname{div}\mathbf{u}\in\mathbf{L}_{2} (G)$, то след $\gamma(\mathbf{n}\cdot \mathbf{u})$ существует [18].
²См. например, книгу Л. Шварца [14] или курс В. А. Зорича [19].
³Исламов Галимзян Газизович (02.02.1948–22.11.2017).
⁴http://wac.36f4.edgecastcdn.net/0036F4/pub/www.wolfram.com/pdf/report-islamov.pdf
⁵Они являются проекторами: $\nabla\operatorname{div}$ проектирует $\mathbf{L}_{2}(G)$ на $\mathcal{A}$, а $\operatorname{rot}$ — на $\mathcal{B}$.
⁶Они совпадают с пространствами $\mathbf{A}^{2k}_ {\gamma}$ в [22], если пространство $\mathcal{A}_{H}$ пусто.
⁷Пространства ${L}_{\sigma}^2$, ${L}_{H}^2$, ${L}_{\Sigma}^2$, ${H}_{\Sigma \Sigma}^1$ в [6] мы обозначили как ${\mathcal{{B}}}$, $\mathcal{B}_H$, $\mathbf{V}^{0}$ и $\mathbf{W}^1$ в [21].

About the authors

Romen S Saks

Institute of Mathematics with Computing Centre, Ufa Science Centre, Russian Academy of Sciences

Author for correspondence.
Email: romen-saks@yandex.ru
Scopus Author ID: 22981362000
http://www.mathnet.ru/person23104

Dr. Phys. & Math. Sci.; Professor

Russian Federation, 450077, Ufa, Chernyshevskiy st., 112.

References

Supplementary files