Гильбертовы пространства

ПредупреждениеЧерновик

Этот конспект ещё находится в процессе редактуры: в тексте могут встречаться опечатки, неточности и локально не проработанные места. Если что-то нашли — сообщите, пожалуйста, автору (контакты на странице курса).

1 Пространства со скалярным произведением

Скалярным произведением на векторном пространстве \(V\) над полем \(\mathbb {F}\) (\(\mathbb {R}\) или \(\mathbb {C}\)) называется функция \(\langle \cdot , \cdot \rangle : V \times V \to \mathbb {F}\), удовлетворяющая свойствам:

1. Положительная определённость: \(\langle f, f \rangle \geq 0\) для всех \(f \in V\), причём \(\langle f, f \rangle = 0\) тогда и только тогда, когда \(f = 0\).

2. Линейность по первому аргументу: \(\langle f + g, h \rangle = \langle f, h \rangle + \langle g, h \rangle\) и \(\langle \alpha f, g \rangle = \alpha \langle f, g \rangle\) для всех \(f, g, h \in V\) и \(\alpha \in \mathbb {F}\).

3. Эрмитова симметрия (сопряжённая симметричность): \(\langle f, g \rangle = \overline{\langle g, f \rangle }\) для всех \(f, g \in V\).

В случае \(\mathbb {F} = \mathbb {R}\) свойство эрмитовой симметрии превращается в обычную симметричность: \(\langle f, g \rangle = \langle g, f \rangle\).

ExampleПример 1

• На \(\mathbb {F}^n\): \(\langle (a_1,\ldots ,a_n), (b_1,\ldots ,b_n) \rangle = a_1\overline{b_1} + \cdots + a_n\overline{b_n}\).

• На \(\ell^2\): \(\langle (a_1,a_2,\ldots ), (b_1,b_2,\ldots ) \rangle = \sum_{k=1}^{\infty } a_k\overline{b_k}\).

• На \(C([0,1])\): \(\langle f, g \rangle = \int_0^1 f(t)\overline{g(t)} dt\).

• На \(L^2(\mu )\): \(\langle f, g \rangle = \int_X f\overline{g} d\mu\).

Лемма 1 Базовые свойства:

• \(\langle 0, g \rangle = \langle g, 0 \rangle = 0\)

• \(\langle f, g + h \rangle = \langle f, g \rangle + \langle f, h \rangle\)

• \(\langle f, \alpha g \rangle = \overline{\alpha } \langle f, g \rangle\)

1.1 Норма и неравенство Коши-Буняковского

Нормой, порождённой скалярным произведением, называется функция:

\[ \| f\| = \sqrt{\langle f, f \rangle }. \]

Векторы \(f\) и \(g\) называются ортогональными, если \(\langle f, g \rangle = 0\).

Теорема 1 (Пифагор) Если \(f \perp g\), то \(\| f + g\|^2 = \| f\|^2 + \| g\|^2\).

Лемма 2 (Ортогональное разложение) Если \(g \neq 0\), то любой вектор \(f\) можно единственным образом представить в виде: \[ f = \frac{\langle f, g \rangle }{\| g\| ^2}g + h, \] где \(h \perp g\).

Теорема 2 (Неравенство Коши-Буняковского-Шварца) Для любых \(f, g \in V\) выполняется: \[ |\langle f, g \rangle | \leq \| f\| \cdot \| g\| . \] Равенство достигается тогда и только тогда, когда \(f\) и \(g\) линейно зависимы.

Лемма 3 (Неравенство треугольника) Для любых \(f, g \in V\) выполняется: \[ \| f + g\| \leq \| f\| + \| g\| . \] Равенство достигается тогда и только тогда, когда один из векторов является неотрицательным кратным другого.

Теорема 3 Функция \(\| f\| = \sqrt{\langle f, f \rangle }\) является нормой на \(V\).

Лемма 4 (Тождество параллелограмма) Для любых \(f, g \in V\) выполняется: \[ \| f + g\| ^2 + \| f - g\| ^2 = 2\| f\| ^2 + 2\| g\| ^2. \]

Геометрическая интерпретация: сумма квадратов длин диагоналей параллелограмма равна сумме квадратов длин всех его сторон.

ExampleПример 2

Предположим, \(f\) и \(g\) — элементы пространства со скалярным произведением и \[ \left\| f+g\right\| ^{2} = \left\| f\right\| ^{2}+\left\| g\right\| ^{2} \]

1. Докажите, что если \(\mathbf{F} = \mathbb {R}\), то \(f\) и \(g\) ортогональны.

2. Приведите пример, показывающий, что если \(\mathbf{F} = \mathbb {C}\), то \(f\) и \(g\) могут удовлетворять приведённому выше уравнению, не будучи ортогональными.

SolutionРешение

\[ \left\| f+g\right\| ^{2} = \left\langle f+g, f+g \right\rangle = \left\| f\right\| ^2 + \left\langle f, g \right\rangle + \left\langle g, f \right\rangle + \left\| g\right\| ^2 = \left\| f\right\| ^2 + \left\langle f, g \right\rangle + \overline{ \left\langle f, g \right\rangle } + \left\| g\right\| ^2 \]

Enum-item1.

Из выкладки выше \(\left\langle f, g \right\rangle + \overline{ \left\langle f, g \right\rangle } = 0\), т.е. \(2\operatorname {Re} \left\langle f, g \right\rangle = 0\). Если \(\mathbb {F} = \mathbb {R}\), то \(\left\langle f, g \right\rangle \in \mathbb {R}\), значит, \(\left\langle f, g \right\rangle = \operatorname {Re} \left\langle f, g \right\rangle = 0\), т.е. \(f \perp g\).

Enum-item2.

\(V = \mathbb {C}^2\), \(f = (0,i)\), \(g = (0,1)\).

2 Ортогональность

2.1 Ортогональные проекции

Предыдущий раздел развивал теорию пространств со скалярным произведением, следуя стандартному подходу линейной алгебры. Линейная алгебра в основном сосредоточена на конечномерных векторных пространствах. Многие интересные результаты о бесконечномерных пространствах со скалярным произведением требуют дополнительного условия, которое мы теперь введем.

Гильбертово пространство — это пространство со скалярным произведением, которое является банаховым пространством с нормой, порождаемой этим скалярным произведением.

ExampleПример 3

SolutionРешение

Гильбертовы пространства

• Пусть \(\mu\) — мера. Тогда \(L^2(\mu )\) со своим обычным скалярным произведением является гильбертовым пространством.

• Как частный случай первого пункта, если \(n \in \mathbb {Z}^+\) и взять \(\mu\) в качестве считающей меры на \(\{ 1, \ldots , n\}\), то \(F^n\) со своим обычным скалярным произведением является гильбертовым пространством.

• Как другой частный случай первого пункта, взяв \(\mu\) в качестве считающей меры на \(\mathbb {Z}^+\), получаем, что \(\ell^2\) со своим обычным скалярным произведением является гильбертовым пространством.

• Каждое замкнутое подпространство гильбертова пространства является гильбертовым пространством.

Не гильбертовы пространства

• Пространство со скалярным произведением \(\ell^1\), где \(\langle (a_1, a_2, \ldots ), (b_1, b_2, \ldots ) \rangle = \sum_{k=1}^{\infty } a_k \overline{b_k}\), не является гильбертовым, потому что соответствующая норма не является полной на \(\ell^1\).

• Пространство со скалярным произведением \(C([0, 1])\) непрерывных \(\mathbb {F}\)-значных функций на интервале \([0, 1]\), где \(\langle f, g \rangle = \int_0^1 f \, \overline{g}\), не является гильбертовым, потому что соответствующая норма не является полной на \(C([0, 1])\).

ExampleПример 4

Пусть \(V = C[0,1]\) с супремум-нормой \(\left\| f\right\| = \sup_{t \in [0,1]}\left|f(t)\right|\). Рассмотрим подмножество \[ U = \left\{ g \in C[0,1] \; :\; g(0) = 0, \; \int _0^1 g(t) dt = 0\right\} \]

1. Докажите, что \(U\) – замкнутое подпространство в \(V\);

2. Пусть \(f(t) = t\). Найдите \(\operatorname {dist}_U(t)\).

3. Докажите, что \(\operatorname {dist}_U(t)\) не достигается, т.е. не существует такого \(g \in U\), что \(\left\| f-g\right\| = \operatorname {dist}_U(f)\).

Этот пример показывает, что в произвольном банаховом пространстве расстояние до замкнутого выпуклого множества может не достигаться.

SolutionРешение

Enum-item(1)

\(U\) замкнуто относительно суммирования и умножения на скаляр, значит это подпространство. Далее, нужно доказать, что \(U\) замкнуто. Пусть \(g_1, g_2, \ldots \in U\), \(g_n \to h\) в \(V\). \(g_n\) равномерно сходятся к \(h\). Значит, интеграл предела \(\int_0^1 h\) равен пределу интегралов \(\lim_{n \to \infty }\int_0^1 g_n = \lim_{n \to \infty } = 0\). Далее, из равномерной сходимости следует поточечная, т.е. \(h(0) = \lim_{n \to \infty }g_n(0) = 0\). Итого, \(g \in U\). Доказали замкнутость \(U\).

Enum-item(2)

• Пусть \(g \in U\) – произвольное. Мы знаем, что \(\int_0^1 f - g = \int_{0}^{1}f(t)dt= \frac{1}{2}\). Тогда

  \[ \frac{1}{2} = \left|\int _0^1 f - g\right| \leq \int _{0}^{1}\left|f-g\right| \stackrel{*}{\leq } 1 \cdot \sup _{t \in [0,1]}\left|f(t) - g(t)\right| = \left\| f-g\right\| \]

  Следовательно, \(\operatorname {dist}_U(f) \geq \frac{1}{2}\).

• Докажем, что \(\operatorname {dist}_U(f) \geq \frac{1}{2}\). Рассмотрим последовательность функций \(g_n\) (\(n \geq 3\)): \(g_n\) линейно идет из \((0,0)\) в \((\frac{1}{n}, -\frac{1}{2})\), далее линейно в точку \((\frac{1}{2}, 0)\), далее линейно в точку \((1, \frac{1}{2})\). Площадь нижнего треугольника (от \(0\) до \(\frac{1}{2}\)) равна \(\frac{1}{2}\), и равна площади треугольника от \(\frac{1}{2}\) до \(1\). Значит, \(\int_0^1 g_n(t) dt = 0\). Итого, \(g_n \in U\) для всех \(n \geq 3\). При этом \(\left\| f - g_n\right\| \to \frac{1}{2}\) при \(n \to +\infty\) (по рисунку должно быть видно).

Уведомление

Рисунок в разработке. Будет пересоздан как интерактивная фигура (Plotly/Three.js).

План: : TikZ, координаты ломаных g_3,g_4,g_5 заданы точно по формуле из решения (не подгонка). Иллюстрирует недостижимость dist_U(f)=1/2 в БАНАХОВОМ (C[0,1], sup-норма) пространстве – контраст с гильбертовым случаем, где расстояние до замкнутого выпуклого множества всегда достигается. Интерактив: слайдер n, перерисовывающий g_n и подписывающий текущее sup-расстояние 1/2+1/n -> 1/2.

Источник: courses/nedosh_courses/courses/01-analysis/FA/contents/specials/050/010_dist_to_subspace_fig.tex

Enum-item(3)

Рассмотрим уравнение выше. Мы знаем, что \(f -g\) – это непрерывная функция. Значит, равенство в неравенстве \(*\) может достигаться только тогда, когда \(\left|f - g\right| \equiv \left\| f -g\right\|\) на всем отрезке \([0,1]\). Но \(f(0) - g(0) = 0\). Т.е. неравенство в \(*\) на самом деле строгое (если бы там было равенство, то \(f - g \equiv 0\) на всем \([0,1]\), т.е. \(f \equiv g\), но \(f \not\in U\)).

Теорема 4 (Достижимость расстояния до замкнутого выпуклого подмножества в гильбертовом пространстве) Расстояние от элемента гильбертова пространства до непустого замкнутого выпуклого множества достигается на единственном элементе этого множества.

Более конкретно, пусть \(V\) — гильбертово пространство, \(f \in V\), и \(U\) — непустое замкнутое выпуклое подмножество \(V\). Тогда существует единственный \(g \in U\) такой, что

\[ \| f - g\| = \operatorname {dist}_{U}(f). \]

Пусть \(U\) — непустое замкнутое выпуклое подмножество гильбертова пространства \(V\). Ортогональной проекцией \(V\) на \(U\) называется функция \(P_U: V \to V\), определяемая равенством \(P_U(f) = g\), где \(g\) — единственный элемент \(U\), ближайший к \(f\).

Выполнены следующие свойства:

• \(P_U f = f\) тогда и только тогда, когда \(f \in U\);

• \(P^2_U = P_U\).

ExampleПример 5

Ортогональная проекция на замкнутый единичный шар

SolutionРешение

Пусть \(U\) — замкнутый единичный шар \(\{ g \in V : \| g\| \leq 1\}\) в гильбертовом пространстве \(V\). Тогда \[ P_U f = \begin{cases} f & \text{если } \| f\| \leq 1, \\ \dfrac {f}{\| f\| } & \text{если } \| f\| > 1. \end{cases} \]

ExampleПример 6

Ортогональная проекция на замкнутое подпространство

SolutionРешение

Пусть \(U\) — замкнутое подпространство в \(\ell^2\), состоящее из элементов \(\ell^2\), у которых все четные координаты равны нулю:

\[ U = \{ (a_1, 0, a_3, 0, a_5, 0, \ldots ) : \text{каждый } a_k \in \mathbb {F} \text{ и } \sum _{k=1}^{\infty } |a_{2k-1}|^2 < \infty \} . \]

Тогда для \(b = (b_1, b_2, b_3, b_4, b_5, b_6, \ldots ) \in \ell^2\) имеем

\[ P_U b = (b_1, 0, b_3, 0, b_5, 0, \ldots ). \]

В этом примере функция \(P_U\) является линейным отображением из \(\ell^2\) в \(\ell^2\). Кроме того, \(b - P_U b\) ортогонален каждому элементу из \(U\).

Теорема 5 (Свойства ортогональной проекции на замкнутое подпространство) Пусть \(U\) — замкнутое подпространство гильбертова пространства \(V\) и \(f \in V\). Тогда

1. \(f - P_U f\) ортогонален \(g\) для каждого \(g \in U\);

2. если \(h \in U\) и \(f - h\) ортогонален \(g\) для каждого \(g \in U\), то \(h = P_U f\);

3. \(P_U: V \to V\) является линейным отображением;

4. \(\| P_U f\| \leq \| f\|\), причем равенство достигается тогда и только тогда, когда \(f \in U\).

2.2 Ортогональные дополнения

Пусть \(U\) — подмножество пространства со скалярным произведением \(V\). Ортогональным дополнением \(U\) называется множество, обозначаемое \(U^\perp\) и определяемое как

\[ U^\perp = \{ h \in V : \langle g, h \rangle = 0 \text{ для всех } g \in U \} . \]

ExampleПример 7

SolutionРешение

Пусть \(U\) — множество элементов \(\ell^2\), у которых все четные координаты равны нулю: \[ U = \{ (a_1, 0, a_3, 0, a_5, 0, \ldots ) : \text{каждый } a_k \in \mathbb {F} \text{ и } \sum _{k=1}^{\infty } |a_{2k-1}|^2 < \infty \} . \] Тогда \(U^\perp\) — это множество элементов \(\ell^2\), у которых все нечетные координаты равны нулю: \[ U^\perp = \{ (0, a_2, 0, a_4, 0, a_6, \ldots ) : \text{каждый } a_k \in \mathbb {F} \text{ и } \sum _{k=1}^{\infty } |a_{2k}|^2 < \infty \} . \]

Лемма 5 (Свойства) Пусть \(U\) — произвольное подмножество (не обязательно подпространство) пространства со скалярным произведением \(V\). Тогда

1. \(U^\perp\) является замкнутым подпространством \(V\);

2. \(U\) и \(U^{\perp }\) не могут пересекаться по ненулевому вектору: либо \(U \cap U^\perp = \varnothing\), либо \(U \cap U^{\perp } = \left\{ 0_V\right\}\);

3. если \(W \subseteq U\), то \(U^\perp \subseteq W^\perp\);

4. \(\left(\overline{U}\right)^{\perp } = U^\perp\);

5. \(U \subseteq (U^\perp )^\perp\).

Результаты, представленные в оставшейся части этого подраздела, основаны на гипотезе, что V — гильбертово пространство. Эти результаты не всегда верны, если V — просто пространство со скалярным произведением.

Теорема 6 Пусть \(U\) — подпространство гильбертова пространства \(V\). Тогда \[ \overline{U} = \left(U^\perp \right)^\perp . \]

В частности, если \(U\) замкнуто, то \(U = (U^\perp )^\perp\).

Следствие 1 (Необходимое и достаточное условие плотности подпространства) Пусть \(U\) — подпространство гильбертова пространства \(V\). Тогда \[ \overline{U} = V \qquad \iff \qquad U^\perp = \{ 0\} . \]

Теорема 7 (Ортогональное разложение) Пусть \(U\) — замкнутое подпространство гильбертова пространства \(V\). Тогда каждый элемент \(f \in V\) может быть единственным образом представлен в виде \[ f = g + h, \] где \(g \in U\) и \(h \in U^\perp\). Более того, \(g = P_U f\) и \(h = f - P_U f = (I - P_{U})f\).

Лемма 6 (Образ и ядро ортогональных проекций) Пусть \(U\) — замкнутое подпространство гильбертова пространства \(V\). Тогда

1. \(\operatorname {Im}P_U = U\) и \(\operatorname {Ker}P_U = U^\perp\);

2. \(\operatorname {Im}P_{U^\perp } = U^\perp\) и \(\operatorname {Ker}P_{U^\perp } = U\);

3. \(P_{U^\perp } = I - P_U\).

ExampleПример 8

\(P_{U^\perp } = I - P_U\)

SolutionРешение

Пусть \(U\) — замкнутое подпространство в \(L^2(\mathbb {R})\), определенное как \[ U = \{ f \in L^2(\mathbb {R}) : f(x) = 0 \text{ для почти всех } x < 0 \} . \] Тогда \[ U^\perp = \{ g \in L^2(\mathbb {R}) : g(x) = 0 \text{ для почти всех } x \geq 0 \} . \] Для \(h \in L^2(\mathbb {R})\) имеем \[ P_U h = h \chi _{[0, \infty )} \quad \text{и} \quad P_{U^\perp } h = h \chi _{(-\infty , 0)}. \] Таким образом, \(P_{U^\perp } h = h(1 - \chi_{[0, \infty )}) = (I - P_U)h\), что согласуется с \(P_{U^\perp } = I - P_U\).

2.3 Теорема Рисса-Фреше о представлении: ГП сопряжено самому себе

Пусть \(h\) — элемент гильбертова пространства \(V\). Определим \(\varphi_{h}: V \to \mathbb {F}\) формулой \(\varphi_{h}(f) = \langle f, h \rangle\) для \(f \in V\). Тогда \(\varphi_{h}\) является ограниченным линейным функционалом на \(V\). Следующий результат утверждает, что каждый ограниченный линейный функционал на \(V\) возникает таким образом.

Теорема Рисса — Фреше о представлении линейного ограниченного функционала

Теорема 8 (Рисс — Фреше) Пусть \(\varphi_{h}\) — ограниченный линейный функционал на гильбертовом пространстве \(V\). Тогда существует единственный вектор \(h \in V\) такой, что \[ \varphi _{h}(f) = \langle f, h \rangle \quad \text{для всех } f \in V. \] Кроме того, \(\| \varphi_{h}\| = \| h\|\).

В случае \(p=2\) теорема Рисса показывает, что естественное отображение \(L^2(\mu )\) в его двойственное пространство \((L^2(\mu ))'\) является сюръективным. Таким образом, двойственное пространство к \(L^2(\mu )\) может быть отождествлено с самим \(L^2(\mu )\).

3 Ортогональный базис

3.1 Неравенство Бесселя

Напомним, что семейство \(\{ e_{k}\}_{k \in \mathbb {N}}\) в множестве \(V\) — это функция \(e\) из произвольного множества индексов \(\mathbb {N}\) в \(V\), со значением функции \(e\) в точке \(k \in \mathbb {N}\), обозначаемым \(e_{k}\).

Семейство векторов \(\{ e_{k}\}_{k \in \mathbb {N}}\) в пространстве со скалярным произведением называется ортонормированным семейством, если

\[ \left\langle e_j, e_k \right\rangle = \begin{cases} 0 & \text{если } j \neq k, \\ 1 & \text{если } j = k \end{cases} \quad \text{для всех } j, k \in \mathbb {N}. \]

ExampleПример 9

Приведите примеры различных ортонормированных семейств векторов.

SolutionРешение

• Для \(k \in \mathbb {Z}^{+}\) пусть \(e_{k}\) — элемент \(\ell^{2}\), все координаты которого равны 0, кроме \(k\)-й, которая равна 1:

  \[ e_{k} = (0, \ldots , 0, 1, 0, \ldots ). \]

  Тогда \(\{ e_{k}\}_{k \in \mathbb {Z}^{+}}\) является ортонормированным семейством в \(\ell^{2}\). В этом случае наше семейство является последовательностью; таким образом, мы можем называть \(\{ e_{k}\}_{k \in \mathbb {Z}^{+}}\) ортонормированной последовательностью.

• Более общо, пусть \(\mathbb {N}\) — непустое множество. Гильбертово пространство \(L^{2}(\mu )\), где \(\mu\) — считающая мера на \(\mathbb {N}\), часто обозначается \(\ell^{2}(\mathbb {N})\). Для \(k \in \mathbb {N}\) определим функцию \(e_{k} \colon \mathbb {N} \to \mathbb {F}\) формулой

  \[ e_{k}(j) = \begin{cases} 1 & \text{если } j = k, \\ 0 & \text{если } j \neq k. \end{cases} \]

  Тогда \(\{ e_{k}\}_{k \in \mathbb {N}}\) является ортонормированным семейством в \(\ell^{2}(\mathbb {N})\).

• Для \(k \in \mathbb {Z}\) определим \(e_{k} \colon (-\pi , \pi ] \to \mathbb {R}\) формулой

  \[ e_{k}(t) = \begin{cases} \frac{1}{\sqrt{\pi }} \sin (kt) & \text{если } k > 0, \\ \frac{1}{\sqrt{2\pi }} & \text{если } k = 0, \\ \frac{1}{\sqrt{\pi }} \cos (kt) & \text{если } k < 0. \end{cases} \]

  Тогда \(\{ e_{k}\}_{k \in \mathbb {Z}}\) является ортонормированным семейством в \(L^{2}((-\pi , \pi ])\). Это ортонормированное семейство приводит к классической теории рядов Фурье.

• Для неотрицательного целого \(k\) определим \(e_{k} \colon [0, 1) \to \mathbb {F}\) как функцию Радемахера. Тогда \(\{ e_{k}\}_{k \in \{ 0,1,\ldots \} }\) является ортонормированным семейством в \(L^{2}([0,1])\).

• Модифицируя предыдущий пример сдвигами на целые числа, можно построить ортонормированное семейство \(\{ e_{k,m}\}_{(k,m) \in \{ 0,1,\ldots \} \times \mathbb {Z}}\) в \(L^{2}(\mathbb {R})\).

Говорят, что ряд из векторов \(\sum_{k=1}^{\infty }v_k\) сходится к вектору \(v \in V\) безусловно, если при любой перестановке слагаемых сумма не меняется. Для любой перестановки (т.е. биективного отображения) \(\sigma : \mathbb {N} \to \mathbb {N}\) выполнено \(\sum_{k=1}^{\infty }v_{\sigma_k} = v\).

Говорят, что ряд из векторов \(\sum_{k=1}^{\infty }v_k\) сходится абсолютно, если \(\sum_{k=1}^{\infty } \left\| v_k\right\| < \infty\).

Как вы должны помнить из курса анализа, согласно теореме Римана ряд из действительных чисел сходится абсолютно тогда и только тогда, когда он сходится безусловно. Как мы увидим, ситуация со сходимостью векторов в произвольном банаховом (в частности, гильбертовом) пространстве несколько отличается. В конечномерном нормированном пространстве (которое всегда будет банаховым, на контрольной была такая задача) эквивалентность между безусловной и абсолютной сходимостями все еще будет. Однако в бесконечномерном БП из абсолютной сходимости все еще будет следовать безусловная, но не наоборот.

ExampleПример 10

Приведите пример безусловно сходящегося ряда из векторов, который не сходится абсолютно.

SolutionРешение

Пусть \(\{ e_{k}\}_{k \in \mathbb {Z}^{+}}\) — ортонормированное семейство в \(\ell^{2}\), где \(e_{k}\) — последовательность с 1 на \(k\)-м месте. Тогда сумма

\[ \sum _{k \in 1}^{+\infty } \frac{1}{k} e_{k} \]

сходится в \(\ell^{2}\) к \(\left(1, \frac{1}{2}, \frac{1}{3}, \ldots \right)\), причем безусловно: коэффициенты \(a_k=1/k\) образуют последовательность из \(\ell^2\) (так как \(\sum 1/k^2 < \infty\)), а для ортонормированного семейства это, по теореме Теорема 9, равносильно (безусловной) сходимости ряда.

Однако при этом \(\sum_{k=1}^{\infty } \| \frac{1}{k} e_{k} \| = \sum_{k=1}^{\infty } \frac{1}{k} = +\infty\), т.е. абсолютной сходимости нет.

Теорема 9 (Линейные комбинации ортонормированного семейства и их сходимости) Пусть \(\{ e_{k}\}_{k \in \mathbb {N}}\) — ортонормированное семейство в ГП \(V\) и \(\{ a_{k}\}_{k \in \mathbb {N}}\) — семейство коэффициентов из \(\mathbb {F}\). Следующие условия эквивалентны:

1. Ряд \(\sum_{k =1}^{+\infty } a_{k} e_{k}\) сходится;

2. Ряд \(\sum_{k =1}^{+\infty } a_{k} e_{k}\) сходится безусловно;

3. Последовательность коэффициентов \(a = (a_1, a_2, \ldots )\) из \(\ell^2\), т.е. \(\sum_{k =1}^{+\infty } \left|a_{k}\right|^2 < +\infty\). Более того, если хотя бы одно из условий выполнено, то \[ \left\| \sum _{k =1}^{+\infty } a_{k} e_{k}\right\| = \sqrt{\sum _{k =1}^{+\infty } |a_{k}|^{2}} \]

Теорема 10 (Неравенство Бесселя) Пусть \(\{ e_{k}\}_{k \in \mathbb {N}}\) — ортонормированное семейство в пространстве со скалярным произведением \(V\) и \(f \in V\). Тогда \[ \sum _{k =1}^{+\infty } |\langle f, e_{k} \rangle |^{2} \leq \| f \| ^{2}. \]

Теорема 11 (Замыкание линейной оболочки ортонормированного семейства) Пусть \(\{ e_{k}\}_{k \in \mathbb {N}}\) — ортонормированное семейство в гильбертовом пространстве \(V\). Тогда

\[ \overline{\operatorname {span} \{ e_{k}\} _{k \in \mathbb {N}}} = \left\{ \sum _{k =1}^{+\infty } \alpha _{k} e_{k} : \{ \alpha _{k}\} _{k \in \mathbb {N}} \text{ — семейство в } \mathbb {F} \text{ и } \sum _{k =1}^{+\infty } |\alpha _{k}|^{2} < \infty \right\} \]

Более того,

\[ f = \sum _{k =1}^{+\infty } \langle f, e_{k} \rangle e_{k} \]

для любого \(f \in \overline{\operatorname {span} \{ e_{k}\}_{k \in \mathbb {N}}}\).

3.2 Тождество Парсеваля

Ортонормированное семейство \(\{ e_{k}\}_{k \in \mathbb {N}}\) в гильбертовом пространстве \(V\) называется ортонормированным базисом (сокр. ОНБ) \(V\), если оно полно, т.е.

\[ \overline{\operatorname {span}\left\{ e_k\right\} _{k \in \mathbb {N}}} = V \]

Будет ли ОНБ базисом Шаудера? Напомним, что базис Шаудера – это полная система векторов, такая что любой вектор можно единственным образом приблизить (конечными) линейными комбинациями из системы. Т.е. нужно проверить единственность. Пусть \(f \in \overline{\operatorname {span}\left\{ e_k\right\}_{k \in \mathbb {N}}}\), пусть

\[ f = \sum _{k=1}^{+\infty }a_ke_k = \sum _{k=1}^{+\infty }b_ke_k \]

Обозначим \(a = (a_1, a_2, \ldots )\), \(b = (b_1, b_2, \ldots )\). По теореме Теорема 9 \(a, b \in \ell^2\). Значит, \(a - b \in \ell^2\), значит, по той же теореме, ряд \(\sum_{k=1}^{+\infty }(a_k-b_k)e_k\) сходится. Но к чему он сходится? Имеем

\[ \sum _{k=1}^{+\infty }(a_k-b_k)e_k = \lim _{n \to +\infty }\left(\sum _{k=1}^{+\infty }(a_k-b_k)e_k\right) = \lim _{n \to +\infty }\left(\sum _{k=1}^{+\infty }a_ke_k\right) - \lim _{n \to +\infty }\left(\sum _{k=1}^{+\infty }b_ke_k\right) = f - f = 0_V \]

Значит, по той же теореме,

\[ 0 = \left\| 0_V\right\| = \left\| \sum _{k=1}^{+\infty }(a_k-b_k)e_k\right\| = \sqrt{\sum _{k=1}^{+\infty }\left|a_k - b_k\right|^2} \]

Следовательно, \(a_k = b_k\) для всех \(k\). Доказали единственность коэффициентов (причем, как вы понимаете, \(a_k = b_k = \left\langle f, e_k \right\rangle\)). Итого, ОНБ – это частный случай базиса Шаудера.

ExampleПример 11

Приведите примеры ОНБ.

SolutionРешение

• Стандартный базис \(\{ e_{1}, \ldots , e_{n}\}\) в \(\mathbb {F}^{n}\) является ортонормированным базисом.

• Примеры ортонормированных семейств, приведённые выше (стандартный базис в \(\ell^{2}\), тригонометрическая система в \(L^{2}((-\pi , \pi ])\)), являются ортонормированными базисами.

Теорема 12 (Тождество Парсеваля) Пусть \(\{ e_{k}\}_{k \in \mathbb {N}}\) — ортонормированный базис гильбертова пространства \(V\) и \(f, g \in V\). Тогда

1. \(f = \sum_{k =1}^{+\infty } \langle f, e_{k} \rangle e_{k}\);

2. \(\langle f, g \rangle = \sum_{k =1}^{+\infty } \langle f, e_{k} \rangle \overline{\langle g, e_{k} \rangle }\);

3. \(\| f \|^{2} = \sum_{k =1}^{+\infty } |\langle f, e_{k} \rangle |^{2}\).

Равенство Парсеваля, в сущности, говорит о том, что любое ГП со (счетным) ОНБ (могут быть и несчетные ОНБ, но их мы в курсе не рассматриваем) изоморфно пространству квадратично сходящихся последовательностей \(\ell^2 = \ell^2(\mathbb {N})\) с сохранением скалярного произведения, т.е. с сохранением всей структуры гильбертова пространства. А именно, если \(\left\{ e_k\right\}_{k \in \mathbb {N}}\) – это ОНБ, то

\[ f \mapsto \left( \left\langle f, e_1 \right\rangle , \left\langle f, e_2 \right\rangle , \ldots \right) \]

– это указанный изоморфизм \(V \to \ell^2\).

3.3 Существование ОНБ в сепарабельном ГП: конструктивное доказательство через процесс Грама-Шмидта

Нормированное векторное пространство называется сепарабельным, если в нём существует счётное подмножество, замыкание которого совпадает со всем пространством.

ExampleПример 12

Покажите, что следующие ГП сепарабельны:

1. \(\mathbb {F}^{n}\);

2. \(\ell^2\);

3. \(L^2[0,1]\).

SolutionРешение

Enum-item(1)

\(\mathbb {F}^n\) сепарабельно: счётное всюду плотное множество – кортежи с рациональными (или рациональными действ. и мнимыми частями, если \(\mathbb F = \mathbb {C}\)) координатами.

Enum-item(2)

\(\ell^2\) сепарабельно: счётное всюду плотное множество – последовательности с конечным числом ненулевых рациональных членов (плотность доказывается так же, как для \(\ell^p\) в примере про \(\ell^p\) как пространство Лебега со считающей мерой ранее – приближаем хвост, затем округляем конечный “хвост” до рациональных).

Enum-item(3)

\(L^2[0,1]\) сепарабельно: по теореме Вейерштрасса многочлены плотны в \(C[0,1]\) по \(\left\| \cdot \right\|_{\infty }\), а значит, и по \(\left\| \cdot \right\|_{2}\) (так как \(\left\| \cdot \right\|_{2}\leq \left\| \cdot \right\|_{\infty }\) на пространстве конечной меры); в свою очередь, \(C[0,1]\) плотно в \(L^2[0,1]\) (стандартный факт теории меры: непрерывные функции плотны в \(L^p\) при \(p<\infty\)). Значит, многочлены с рациональными коэффициентами – счётное множество, плотное в \(L^2[0,1]\).

Теорема 13 (Существование ортонормированных базисов в сепарабельных гильбертовых пространствах) Каждое сепарабельное гильбертово пространство имеет ОНБ.

Доказательством по сути является алгоритм Грама–Шмидта, примененный к счетному всюду плотному семейству.

3.4 Лучшая аппроксимация

Сделаем небольшое отступление, чтобы проиллюстрировать, как процесс Грама–Шмидта, использованный в предыдущем доказательстве, может быть использован для поиска ближайших элементов к подпространствам. Начнём с результата, связывающего ортогональную проекцию на замкнутое подпространство с ортонормированным базисом этого подпространства.

Теорема 14 (Ортогональная проекция через ортонормированный базис) Пусть \(U\) — замкнутое подпространство гильбертова пространства \(V\) и \(\{ e_{k}\}_{k \in \mathbb {N}}\) — ортонормированный базис \(U\). Тогда для любого \(f \in V\) \[ P_{U} f = \sum _{k =1}^{+\infty } \langle f, e_{k} \rangle e_{k}. \]

Теорема 8.71: Ортогональная проекция через ортонормированный базис

ExampleПример 13

Найти многочлен \(g\) степени не выше 10, минимизирующий \[ \int _{-1}^{1} \left| \sqrt{|x|} - g(x) \right|^{2} dx. \]

SolutionРешение

Мы будем работать в вещественном гильбертовом пространстве \(L^2([-1,1])\) с обычным скалярным произведением \(\langle g, h\rangle =\int_{-1}^1 g h\). Для \(k \in \{ 0,1, \ldots , 10\}\) пусть \(f_k \in L^2([-1,1])\) определяется формулой \(f_k(x)=x^k\). Пусть \(U\) — подпространство \(L^2([-1,1])\), определяемое формулой

\[ U=\operatorname {span}\left\{ f_k\right\} _{k \in \{ 0, \ldots , 10\} } . \]

Применим алгоритм Грама-Шмидта к \(\left\{ f_k\right\}_{k \in \{ 0, \ldots , 10\} }\), получим ОНБ \(\left\{ e_k\right\}_{k \in \{ 0, \ldots , 10\} }\) пространства \(U\), который является замкнутым подпространством \(L^2([-1,1])\) (легко показать, попробуйте сами). \(\left\{ e_k\right\}_{k \in \{ 0, \ldots , 10\} }\) можно вычислить явно: \(e_0(x)=1 / \sqrt{2}\), \(e_1(x)=\sqrt{6} x / 2, \ldots\) вплоть до

\[ e_{10}(x)=\frac{\sqrt{42}}{512}\left(-63+3465 x^2-30030 x^4+90090 x^6-109395 x^8+46189 x^{10}\right). \]

Определим \(f \in L^2([-1,1])\) как \(f(x)=\sqrt{|x|}\). Поскольку \(U\) — это подпространство \(L^2([-1,1])\), состоящее из многочленов степени не выше 10, а \(P_U f\) равен элементу \(U\), ближайшему к \(f\), решение \(g\) нашей задачи минимизации задаётся формулой

\[ g=\sum _{k=0}^{10}\left\langle f, e_k\right\rangle e_k \]

Используя явные выражения для \(e_0, \ldots , e_{10}\) и снова вычисляя интегралы, получаем

\[ g(x)=\frac{693+15015 x^2-64350 x^4+139230 x^6-138567 x^8+51051 x^{10}}{2944} . \]

Наилучшее приближение \(f(x)=\sqrt{|x|}\) многочленом в \(L^2([-1,1])\)

Красная кривая — \(f(x)=\sqrt{|x|}\); синяя — её ближайший (в норме \(L^2([-1,1])\)) многочлен \(g\) степени не выше \(n\), построенный по коэффициентам разложения по многочленам Лежандра. Приближение довольно хорошее, несмотря на то, что \(f\) не дифференцируема в точке \(0\) (и разложение в ряд Тейлора не имеет смысла).

степень \(n =\) 10

3.5 Теорема Рисса–Фреше о представлении revisited

Как мы поняли, в любом сепарабельном ГП есть (счетный) ОНБ. На самом деле это верно и в обратную сторону (подумайте, почему).

Теорема 15 (Теорема Рисса–Фреше, альтернативная формулировка для ГП со счетным ОНБ) Пусть \(\varphi\) — ограниченный линейный функционал на гильбертовом пространстве \(V\) и \(\{ e_{k}\}_{k \in \mathbb {N}}\) — (счетный) ОНБ в \(V\). Пусть \[ h = \sum _{k =1}^{+\infty } \overline{\varphi (e_{k})} e_{k}. \] Тогда для всех \(f \in V\) выполняется \[ \varphi (f) = \langle f, h \rangle , \] и \(\| \varphi \| = \left( \sum_{k =1}^{+\infty } |\varphi (e_{k})|^{2} \right)^{1/2}\).

ExampleПример 14

Найдите многочлен \(g\) степени не выше 4, который минимизирует \(\int_{0}^{1}\left|x^{5}-g(x)\right|^{2} d x\).

SolutionРешение

Мы будем работать в вещественном гильбертовом пространстве \(L^2([0,1])\) с обычным скалярным произведением.

• Пусть \(f_k \in L^2[0,1]\) таковы, что \(f_k(x) = x^k\) (\(k \in \mathbb {Z}_+\)). Пусть \(U = \operatorname {span}\left\{ f_k\right\}_{k \in \left\{ 0, \ldots , 4\right\} }\). Тогда искомый многочлен \(g\) — это \(g = P_U(f_5)\).

• Применим процесс Грама–Шмидта, чтобы получить ортонормированный базис для \(U\).

  \[ \begin{align} e_0 & = \frac{f_0}{\left\| f_0\right\| } = f_0 \\ e'_1 & = f_1 - \left\langle f_1, e_0 \right\rangle e_0 = f_1 - \frac{1}{2}f_0, \quad e_1 = \frac{e'_1}{\left\| e'_1\right\| } = \cdots \end{align} \]

  Фактически нам нужно просто нормировать Сдвинутые многочлены Лежандра:

  \[ \begin{align} \tilde{P}_0(x) & = 1, \quad \tilde{P}_1(x) =2x-1, \quad \tilde{P}_2(x) = 6x^2 - 6x + 1, \\ \tilde{P}_3(x) & = 20x^3-30x^2+12x-1, \quad \tilde{P}_4(x) = 70x^4-140x^3+90x^2-20x+1 \end{align} \]

  Итак, \(e_k = \frac{\tilde{P}_k}{\left\| P_k\right\| }\). Известно, что

  \[ \int _0^1 \widetilde{P}_m(x) \widetilde{P}_n(x)\, dx = \frac{1}{2n + 1} \delta _{mn} \]

  так что \(\left\| \widetilde{P}_m\right\| = \sqrt{\frac{1}{2m + 1}}\) и

  \[ e_0 = \tilde{P}_0, \quad e_1 = \sqrt{3} \tilde{P}_1, \quad e_2 = \sqrt{5} \tilde{P}_2, \quad e_3 = \sqrt{7} \tilde{P}_3, \quad e_4 = 3 \tilde{P}_4 \]

• \[ \begin{align} \left\langle f_5, e_0 \right\rangle & = \frac{1}{6}, \qquad \left\langle f_5, e_1 \right\rangle = \sqrt{3}\left(\frac{2}{7} - \frac{1}{6}\right) = \frac{5\sqrt3}{42}, \qquad \left\langle f_5, e_2 \right\rangle = \frac{5\sqrt5}{84}, \\ \left\langle f_5, e_3 \right\rangle & = \frac{5\sqrt7}{252}, \qquad \left\langle f_5, e_4 \right\rangle = \frac{1}{84} \end{align} \]

  (последние три коэффициента считаются аналогично первым двум – через \(\int_0^1 x^5 e_k(x)\, dx\)). Тогда

  \[ g = P_U(f_5) = \sum _{k=0}^4 \left\langle f_5, e_k \right\rangle e_k = \frac52 x^4 - \frac{20}{9}x^3 + \frac56 x^2 - \frac{5}{42}x + \frac1{252} = \frac{630x^4-560x^3+210x^2-30x+1}{252} \]

  (коэффициенты при \(x^4,\ldots ,x^0\) проверены символьно).

• График.

ExampleПример 15

Найдите многочлен \(g\) степени не выше 4 такой, что \[ f\left(\frac{1}{2}\right) = \int _{0}^{1} f g \] для каждого многочлена \(f\) степени не выше 4.

SolutionРешение

Рассмотрим подпространство \(U = \operatorname {span}\left\{ e_k\right\}_{k \in \left\{ 0,\ldots ,4\right\} }\) пространства \(L^2[0,1]\), где \(\left\{ e_k\right\}\) — множество нормированных сдвинутых многочленов Лежандра (см. предыдущую задачу). Заметим, что \(U\) — это пространство многочленов степени не выше \(4\), \(\left\{ e_k\right\}_{k \in \left\{ 0,\ldots ,4\right\} }\) — ортонормированный базис этого пространства, и оно является гильбертовым пространством как замкнутое подпространство другого гильбертова пространства.

Теперь рассмотрим на \(U\) линейный функционал \(\varphi (f) = f(\frac{1}{2})\), \(f \in U\). Он ограничен на \(U\), потому что \(U\) — конечномерное пространство. Таким образом, по теореме Рисса о представлении, \(\varphi (f) = \left\langle f, g \right\rangle = \int fg\), где (учитывая, что \(\varphi\) вещественнозначен, а \(e_1\left(\frac12\right)=e_3\left(\frac12\right)=0\) в силу нечётности \(\tilde P_1, \tilde P_3\) относительно точки \(x=\frac12\))

\[ g = \sum _{k \in \left\{ 0,\ldots ,4\right\} } \varphi (e_k) \cdot e_k = \sum _{k=0}^4 e_k\left(\frac{1}{2}\right) \cdot e_k = 1\cdot e_0 - \frac{\sqrt{5}}{2} \cdot e_2 + \frac{9}{8} e_4 \]

ProblemЗадача 1

Доказать, что норма пространства \(C[a, b]\) не может порождаться никаким скалярным произведением.

[@VKK, Задача  5.1]

ProblemЗадача 2

1. Доказать, что любая последовательность вложенных непустых замкнутых выпуклых ограниченных множеств в гильбертовом пространстве имеет непустое пересечение.

2. Показать, что последовательность вложенных непустых замкнутых выпуклых ограниченных множеств в банаховом пространстве может иметь пустое пересечение.

[@VKK, Задача  5.2]

ProblemЗадача 3

Привести пример последовательности вложенных ограниченных замкнутых множеств из \(l_{2}\), имеющих пустое пересечение.

[@VKK, Задача  5.3]

ProblemЗадача 4

Пусть \(\left\{ x_{n}\right\} ,\left\{ y_{n}\right\}\) — последовательности в гильбертовом пространстве, причем \(\left\| x_{n}\right\| \leqslant 1,\left\| y_{n}\right\| \leqslant 1,\left(x_{n}, y_{n}\right) \rightarrow 1\). Доказать, что \(\left\| x_{n}-y_{n}\right\| \rightarrow 0\).

[@VKK, Задача  5.5]

ProblemЗадача 5

Пусть \(L \subset H\) — линейное подпространство в гильбертовом пространстве, \(f\) — линейный непрерывный функционал на \(L\). Доказать, что \(\exists !\tilde{f} \in H^{'}:\left.\tilde{f}\right|_{L} = f,\| \tilde{f}\| = \| f\|\).

[@VKK, Задача  9.9]