Лебеговы пространства \(L^p(\mu )\)

Дата публикации

2 сентября 2026

ПредупреждениеЧерновик

Этот конспект ещё находится в процессе редактуры: в тексте могут встречаться опечатки, неточности и локально не проработанные места. Если что-то нашли — сообщите, пожалуйста, автору (контакты на странице курса).

До сих пор мы работали с интегралом Лебега по фиксированной измеримой функции. Сейчас мы посмотрим на множество измеримых функций как на единый объект – векторное пространство – и снабдим его нормой

\[ \left\| f\right\| _{p} = \left(\int \left|f\right|^p \, d\mu \right)^{1/p}. \]

Это доставляет нам пространства \(L^p(\mu )\) – главный герой этой главы и одни из важнейших примеров бесконечномерных функциональных пространств во всём анализе, теории вероятностей, математической статистике и теории случайных процессов. Например:

Чтобы разобраться с \(L^p(\mu )\) по-настоящему, нам понадобятся две дополнительные структуры, которым посвящены §2 и §3 этой главы: структура банахова пространства (полнота – без нее не работали бы предельные переходы, необходимые для сходимости в \(L^p\) и для функциональных предельных теорем в теории случайных процессов) и, для случая \(p=2\) отдельно, структура гильбертова пространства (геометрия ортогональности и проекций – на ней держится, например, определение условного математического ожидания). Изложение этой главы следует (Axler 2020 г., гл. 6–8), хотя мы существенно сократим материал про теорему Бэра – это тема отдельного курса функционального анализа, здесь мы лишь обозначим её существование.

1 Определение и основные свойства \(L^p(\mu )\)

1.1 Определения: пространство интегрируемых функций \(\mathcal{L}^p(\mu )\) и фактор-пространство \(L^p(\mu )\)

Зафиксируем пространство с мерой \((X, \mathcal F, \mu )\) и число \(0 < p \leq \infty\).

Определение 1 Для измеримой функции \(f: X \to \mathbb F\) определим \(p\)-норму

\[ \left\| f\right\| _{p} := \left(\int \left|f\right|^p \, d\mu \right)^{1/p}. \]

Для \(p = \infty\) определим существенный супремум

\[ \left\| f\right\| _{\infty } := \operatorname {esssup}_{x \in X}\left|f(x)\right| = \inf \left\{ t>0 \; : \; \mu \left(\left|f\right| > t\right) = 0\right\} \]

(т.е. наименьшая константа, ограничивающая \(\left|f\right|\) вне множества \(\mu\)-меры \(0\)).

Обозначим \(\mathcal{L}^p(X,\mathcal{F}, \mu )\) (или кратко \(\mathcal{L}^p(\mu )\)) множество измеримых функций \(f: X \to \mathbb {F}\) с конечной \(p\)-нормой:

\[ \mathcal{L}^p(X,\mathcal{F}, \mu ) := \left\{ f : X \to \mathbb {F} \; : \; f \text{ явл. } \mathcal{F}\mid \mathscr {B}\left(\mathbb {F}\right)\text{-изм., } \left\| f\right\| _{p} < \infty \right\} \]

Лемма 1 (\(\mathcal{L}^p(\mu )\) — это векторное пространство) Пусть \((X, \mathcal{F}, \mu )\) — пространство с мерой и \(0 < p < \infty\). Тогда

  1. \(\left\| f+g\right\|_{p}^p \leq 2^p \left(\left\| f\right\|_{p}^p + \left\| g\right\|_{p}^p\right)\)

  2. \(\left\| af\right\|_{p} = \left|a\right| \left\| f\right\|_{p}\) для всех \(f, g \in \mathcal{L}^p(\mu )\) и всех \(a \in \mathbb {F}\). Более того, с обычными операциями сложения и умножения на скаляр функций, \(\mathcal{L}^p(\mu )\) является векторным пространством.

Слово “норма” в определении Определение 1 пока условно: как мы увидим, \(\left\| \cdot \right\|_{p}\) часто не является нормой на \(\mathcal L^p(\mu )\) в строгом смысле – нарушена положительная определенность. А именно, если существует непустое множество \(E \in \mathcal{F}\) такое, что \(\mu (E)=0\), то \(p\)-норма индикаторной функции \(\; \mathbb {1}_{E}\) нулевая, при этом сама эта функция отлична от нуля. Следовательно, в этом случае форма \(\left\| \cdot \right\|_{p}\) не является положительно определенной (не выполняется \(\left\| f\right\|_{p} = 0 \iff f = 0_{V}\)), т.е. она не является нормой на \(V = \mathcal{L}^p(\mu )\). Стандартный способ решения этой проблемы — отождествить функции, которые отличаются только на множестве с \(\mu\)-мерой \(0\).

Определение 2 Предположим \((X, \mathcal{F}, \mu )\) — пространство с мерой и \(0<p \leq \infty\).

  • \(\mathcal{Z}(\mu )\) обозначает множество \(\mathcal{F}\)-измеримых функций из \(X\) в \(\mathbb {F}\), равных 0 почти всюду.

  • Для \(f \in \mathcal{L}^p(\mu )\) пусть \([f]\) — подмножество \(\mathcal{L}^p(\mu )\), определяемое формулой

    \[ [f] = \left\{ f + z \; : \; z \in \mathcal{Z}(\mu )\right\} \]

Множество \(\mathcal{Z}(\mu )\) замкнуто относительно умножения на скаляры. Кроме того, \(\mathcal{Z}(\mu )\) замкнуто относительно сложения, поскольку объединение двух множеств с \(\mu\)-мерой \(0\) является множеством с мерой \(\mu\) \(0\). Таким образом, \(\mathcal{Z}(\mu )\) является подпространством в \(\mathcal{L}^p(\mu )\).

Обратите внимание, что если \(f, g \in \mathcal{L}^p(\mu )\), то \([f] = [g]\) тогда и только тогда, когда \(f(x)=g(x)\) для почти всех \(x \in X\).

Предположим, что \(\mu\) — мера, и \(0<p \leq \infty\).

  • Пусть \(L^p(\mu )\) обозначает совокупность подмножеств \(\mathcal{L}^p(\mu )\), определяемую соотношением

    \[ L^p(\mu )=\left\{ [f] \; : \; f \in \mathcal{L}^p(\mu )\right\} . \]

  • \([f], [g] \in L^p(\mu )\) и \(\alpha \in \mathbb {F}\) определим \([f]+[g]\) и \(\alpha [f]\) следующим образом:

    \[ [f]+[g]=[f + g] \quad \text{ и } \quad \alpha [f]= [\alpha f]. \]

Элементы \(L^p(\mu )\) можно рассматривать как классы эквивалентности функций в \(\mathcal{L}^p(\mu )\), где две функции эквивалентны, если они совпадают почти всюду.

В функциональном анализе часто элементы \(L^p(\mu )\) называют функциями, где две функции считаются равными, если они различаются только на множестве с мерой \(\mu\) \(0\). Это злоупотребление обозначениями безвредно при условии, что операции, выполняемые с такими «функциями», дают одинаковые результаты при изменении функций на множестве с мерой \(0\).

Обратите внимание на типографское различие между \(\mathcal{L}^p(\mu )\) и \(L^p(\mu )\). Элемент каллиграфического \(\mathcal{L}^p(\mu )\) — это функция; элемент \(L^p(\mu )\) — это множество функций, любые две из которых совпадают почти всюду.

Предположим, что \(\mu\) — мера, и \(0<p \leq \infty\). Определим \(\| \cdot \|_p\) на \(L^p(\mu )\) следующим образом:

\[ \| [f]\| _p := \| f\| _p \]

где \(f \in \mathcal{L}^p(\mu )\) – произвольный представитель из \([f]\). Обратите внимание, что если \(f, g \in \mathcal{L}^p(\mu )\) и \([f] = [g]\), то \(\left\| f\right\|_{p} = \left\| g\right\|_{p}\). Таким образом, приведённое выше определение корректно: оно не зависит от конкретного представителя.

Для читателей, знакомых с факторпространствами: вы можете заметить, что \(L^p(\mu )\) — это факторпространство

\[ \mathcal{L}^p(\mu ) / \mathcal{Z}(\mu ). \]

ExampleПример 1

Покажите, что введенные ранее пространства последовательностей \(\ell^{p}\) и \(\ell^{\infty }\) — это частные случаи пространств Лебега.

Покажите, что введенные ранее пространства \(\mathbb {F}^{n}\) с нормой \(\left\| \cdot \right\|_{p}\) – это тоже частные случаи пространств Лебега.

SolutionРешение

  • \(\ell^{p}\) и \(\ell^{\infty }\) – это пространства последовательностей, т.е. пространства функций из \(\mathbb {N}\) в поле \(\mathbb {F}\). Значит, в данном случае \(X = \mathbb {N}\), \(\mathcal{F} = 2^{\mathbb {N}}\).

  • Далее, нужно определить меру. В каком случае интеграл Лебега просто превращается в сумму по всем значениям? В случае, если \(\mu\) – это считающая мера \(\#\):

    \[ \# (A) = \begin{cases} \left|A\right|, & A \text{ конечно} \\ +\infty , & \text{в пр. сл.} \end{cases}, \qquad A \subset \mathbb {N} \]

    Итого,

    \[ \ell ^{p} = \mathcal{L}^{p}(\mathbb {N}, 2^{\mathbb {N}}, \# ) \]

    \(0 < p \leq +\infty\).

  • Векторное пространство \(\mathbb {F}^{n}\) кортежей длины \(n\) из скаляров поля \(\mathbb {F}\) можно отождествить с \(\mathbb {F}^{\left\{ 1,\ldots ,n\right\} }\), т.е. пространством функций из \(\left\{ 1,\ldots ,n\right\}\) в \(\mathbb {F}\). Например, при \(n=4\) кортеж \((-2, \pi , 5.4, 0)\) соответствует функции

    \[ f(k) = \begin{cases} -2, & k = 1 \\ \pi , & k = 2\\ 5.4, & k = 3 \\ 0, & k = 4 \end{cases} \]

    Векторные пространства \(\mathbb {F}^{n}\) и \(\mathbb {F}^{\left\{ 1,\ldots ,n\right\} }\) изоморфны, поэтому мы часто будем их употреблять взаимозаменяемо. Норма

    \[ \left\| x\right\| _{p} = \begin{cases} \left(\sum _{k=1}^{n}\left|x_k\right|^p\right)^{1/p}, & p < +\infty \\ \max _{k \in \left\{ 1,\ldots , n\right\} }\left|x_k\right|, & p = +\infty \end{cases} \]

    при этом изоморфизме переходит с \(\mathbb {F}^{n}\) на \(\mathbb {F}^{\left\{ 1,\ldots ,n\right\} }\), причем с точностью до изометрического (т.е. с сохранением нормы) изоморфизма нормированных пространств можно записать

    \[ \left(\mathbb {F}^{n}, \left\| \cdot \right\| _{p}\right) = \left(\mathbb {F}^{\left\{ 1,\ldots ,n\right\} }, \left\| \cdot \right\| _{p}\right) = \mathcal{L}^p\left(\left\{ 1,\ldots ,n\right\} , 2^{\left\{ 1,\ldots ,n\right\} }, \# \right) \]

    Опять считающая мера.

  • В общем случае \(\ell^p(X)\) – это обозначение пространства функций на \(X\) со считающей мерой:

    \[ \ell ^p(X) := \mathcal{L}^p\left(X, 2^{X}, \# \right) \]

    В частности,

    \[ \ell ^{p} = \ell ^{p}(\mathbb {N}), \qquad \left(\mathbb {F}^n, \left\| \cdot \right\| _{p}\right) = \ell ^p(\left\{ 1,\ldots ,n\right\} ) \]

    (с точностью до изоморфизма НП).

1.2 Неравенства Гёльдера и Минковского

Определение 3 Для \(1\leq p \leq \infty\) сопряженным (двойственным) показателем к \(p\) называется число \(p' \in [1,\infty ]\), такое что \(\frac1p+\frac1{p'}=1\) (при \(p=1\) полагаем \(p'=\infty\), при \(p=\infty\) полагаем \(p'=1\)).

ExampleПример 2

Найдите двойственные показатели для \(1, \infty , 2, 4, \frac{5}{3}\).

SolutionРешение

\[ 1' = \infty , \quad \infty ' = 1, \quad 2' = 2, \quad 4' = \frac{4}{3}, \quad \left(\frac{5}{3}\right)' = \frac{5}{2} = 2.5 \]

Лемма 2 (неравенство Юнга) Пусть \(1<p<\infty\). Тогда для всех \(a,b\geq 0\): \[ ab \leq \frac{a^p}{p} + \frac{b^{p'}}{p'}. \]

ProblemЗадача 1

При каком соотношении между \(a,b\) (и \(p\)) в неравенстве Юнга достигается равенство?

Теорема 1 (неравенство Гёльдера) Пусть \((X,\mathcal F,\mu )\) – пространство с мерой, \(1\leq p \leq \infty\), \(f,h: X \to \mathbb F\) измеримы. Тогда \[ \left\| fh\right\| _{1} \leq \left\| f\right\| _{p}\cdot \left\| h\right\| _{p'}. \]

ProblemЗадача 2

Выведите неравенство Коши–Буняковского \(\left|\int fh \, d\mu \right| \leq \left\| f\right\|_{2}\left\| h\right\|_{2}\) как частный случай неравенства Гёльдера.

HintПодсказка

Возьмите \(p=p'=2\) и примените неравенство треугольника для модуля комплексного числа к \(\int fh \, d\mu\).

Теперь неравенство Минковского, восполняющее ту самую “недостачу” константы \(2^p\) из леммы Лемма 1.

Теорема 2 (неравенство Минковского) Пусть \((X,\mathcal F,\mu )\) – пространство с мерой, \(1 \leq p \leq \infty\), \(f,g \in \mathcal L^p(\mu )\). Тогда \[ \left\| f+g\right\| _{p} \leq \left\| f\right\| _{p} + \left\| g\right\| _{p}. \]

Следствие 1 (\(L^p(\mu )\) – нормированное пространство) Для \(1\leq p \leq \infty\), \(L^p(\mu )\) – векторное пространство (лемма Лемма 1), а \(\left\| \cdot \right\|_{p}\) – норма на нём: положительная определенность верна по построению (переход к классам эквивалентности \(L^p(\mu ) = \mathcal L^p(\mu )/\mathcal Z(\mu )\)), однородность очевидна из определения, а неравенство треугольника – это в точности неравенство Минковского.

1.3 Включения между \(L^p\)-пространствами. Неравенство Ляпунова

На пространствах конечной меры (в частности, на вероятностных пространствах) \(L^p\)-пространства вложены друг в друга – и притом в направлении, которое поначалу может показаться неожиданным: чем больше \(p\), тем меньше пространство.

Теорема 3 (Неравенство Ляпунова: вложение пространств \(L^p\) для конечной меры) Пусть \((X, \mathcal{F}, \mu )\) — пространство с мерой и \(\mu (X) < \infty\). Предположим, что \(0 < p < q \leq \infty\). Тогда \(L^q(\mu ) \subset L^p(\mu )\). Более того, если \(0 < p < q < \infty\), то

\[ \left\| f\right\| _{p} \leq \mu (X)^{\frac{1}{p} - \frac{1}{q}} \| f\| _q \]

для всех \(f \in L^q(\mu )\).

В частности, если \(\mu\) – это вероятностная мера (т.е. \(\mu (X) = 1\)), то все случайные величины из \(L^p\) будут лежать и в \(L^q\) при \(0 < p < q \leq +\infty\), причем

\[ \left(\mathbb {E}\left[\left|\xi \right|^p\right]\right)^{1/p} = \left\| \xi \right\| _{p} \leq \left\| \xi \right\| _{q} = \left(\mathbb {E}\left[\left|\xi \right|^q\right]\right)^{1/q} \]

для произвольной случайной величины \(\xi\) из \(L^q\).

Это (в частности) объясняет, почему в теории вероятностей существование более высоких моментов – более сильное требование: например, если \(\mathbb {E}\left[X^4\right]<\infty\), то автоматически \(\mathbb {E}\left[X^2\right]<\infty\) и \(\mathbb {E}\left[\left|X\right|\right]<\infty\), но не наоборот.

ProblemЗадача 3

Пусть \(\mathbb {P}\) – вероятностная мера, \(1\leq s<t<\infty\), \(X_n \to X\) в \(L^t(\mathbb {P})\) (т.е. \(\mathbb {E}\left[\left|X_n-X\right|^t\right]\to 0\)). Докажите, что тогда \(X_n\to X\) и в \(L^s(\mathbb {P})\).

HintПодсказка

Примените неравенство Ляпунова (теорема Теорема 3) к \(f = X_n-X\).

Само собой, включение \(L^t\subset L^s\) (\(s<t\)) в общем случае строгое: в \(L^s([0,1])\) (по мере Лебега) есть функции, не лежащие в \(L^t([0,1])\).

ExampleПример 3

При каких \(p>0\) функция \(f(x) = x^{-\alpha }\) (\(\alpha >0\) – параметр) лежит в \(\mathcal L^p\left((0,1)\right)\) (мера Лебега)?

SolutionРешение

Имеем \(\int_0^1 x^{-\alpha p}\, dx\). Это несобственный интеграл Римана (и одновременно интеграл Лебега – функция неотрицательна, монотонна, значит измерима по Борелю; см. теор. о согласованности интегралов Римана и Лебега при особенности одного знака – воспользуемся \(\int_0^1 = \lim_{\varepsilon \downarrow 0}\int_\varepsilon^1\) и монотонной сходимостью), который сходится тогда и только тогда, когда \(\alpha p < 1\), т.е. \(p < 1/\alpha\). Итого, \(f \in \mathcal L^p((0,1)) \iff p<1/\alpha\).

В частности, при \(\alpha = \tfrac 12\): \(f(x)=x^{-1/2} \in L^1((0,1))\) (даже интегрируема по Риману в обычном смысле, см. пример в главе о свойствах интеграла Лебега), но \(f \not\in L^2((0,1))\) – это конкретный пример функции, показывающий, что включение \(L^2\subset L^1\) на \((0,1)\) строгое.

На пространствах бесконечной меры (например, со считающей мерой) ситуация с включениями ровно противоположная.

ProblemЗадача 4

Пусть \(0 < p < q \leq \infty\).

  1. Докажите, что \(\ell^{p} \subsetneq \ell^{q}\) (в частности, включение здесь идет в другую сторону по сравнению со случаем конечной меры!)..

  2. Докажите, что \(\ell^{p} \subsetneq \bigcap_{r > p} \ell^{r}\).

  3. Докажите, что \(\left\| a\right\|_{p} \geq \left\| a\right\|_{q}\) для всякой последовательности \(a = (a_{1}, a_{2}, \ldots )\) элементов \(\mathbb {F}\).

HintПодсказка

Для включения \(\ell^p\subset \ell^q\) заметьте, что \(a_k \to 0\), значит \(\left|a_k\right|\leq 1\) для больших \(k\), а тогда \(\left|a_k\right|^q \leq \left|a_k\right|^p\). Для строгости включения рассмотрите \(a_k = k^{-1/p}\).

Напомним (следствие Следствие 1), что \(L^p(\mu )\) уже известно нам как нормированное пространство. В частности, при \(\mu = \#\) (считающая мера на \(\mathbb {N}\)) \(L^p(\# ) = \mathcal L^p(\# ) = \ell^p\) – никакого перехода к классам эквивалентности не требуется, поскольку у считающей меры нет множеств нулевой меры, кроме пустого (ср. пример Пример 1).

ProblemЗадача 5

  1. Докажите, что если \(\mu\) — мера, \(1 < p < \infty\), и \(f, g \in L^{p}(\mu )\) таковы, что

    \[ \left\| f\right\| _{p} = \left\| g\right\| _{p} = \left\| \frac{f+g}{2}\right\| _{p} \]

    то \(f = g\).

  2. Приведите пример, показывающий, что результат части (a) может не выполняться при \(p = 1\).

  3. Приведите пример, показывающий, что результат части (a) может не выполняться при \(p = \infty\).

2 Банахово пространство \(L^p(\mu )\)

Слово “норма” в предыдущем разделе было оправдано (неравенство Минковского). Но чтобы говорить о сходимости в \(L^p(\mu )\) – а тем более о том, что предел вообще существует, а не только о том, что записана формула нормы, – нужно понять абстрактное понятие полноты. Это классическая тема функционального анализа – банаховы пространства; применим её здесь к нашему главному объекту, пространству \(L^p(\mu )\).

2.1 Метрические пространства: необходимый минимум

Определение 4 Метрикой на непустом множестве \(V\) называется функция \(d: V \times V \to [0,+\infty )\), такая что

  1. \(d(f,g) = 0\) тогда и только тогда, когда \(f = g\) (положительная определенность);

  2. \(d(f,g) = d(g,f)\) для всех \(f,g \in V\) (симметричность);

  3. \(d(f,h) \leq d(f,g) + d(g,h)\) для всех \(f,g,h \in V\) (неравенство треугольника). Пара \((V,d)\) называется метрическим пространством.

Стандартный пример – это \(\mathbb {R}^{n}\) с \(d(x,y) = \left|x-y\right|\). Но нас будут интересовать в первую очередь метрики на пространствах функций: скажем, на множестве непрерывных функций \(C[a,b]\) можно положить \(d(f,g) = \sup_{x \in [a,b]}\left|f(x)-g(x)\right|\).

Определение 5 Пусть \((V,d)\) – метрическое пространство, \(f_1, f_2, \ldots \in V\), \(f \in V\). Говорят, что \(f_k \to f\) (предел в метрическом пространстве), если \(d(f_k, f) \to 0\) при \(k \to \infty\).

Последовательность \(f_1, f_2, \ldots \in V\) называется последовательностью Коши, если для любого \(\varepsilon >0\) найдется \(N \in \mathbb {N}\), такое что \(d(f_j, f_k) < \varepsilon\) для всех \(j,k \geq N\).

Как и в \(\mathbb {R}\), каждая сходящаяся последовательность является последовательностью Коши (неравенство треугольника). Обратное, вообще говоря, неверно – и именно те пространства, где оно верно, будут нас интересовать.

Определение 6 Метрическое пространство \((V,d)\) называется полным, если каждая последовательность Коши в \(V\) сходится к некоторому элементу \(V\).

Например, \(\mathbb {R}\) (с обычной метрикой) полно – это, по сути, аксиома полноты действительных чисел, известная из курса анализа. А вот \(\mathbb {Q}\) не полно: последовательность рациональных чисел, приближающая \(\sqrt2\) (скажем, десятичные приближения), является последовательностью Коши в \(\mathbb {Q}\), но не сходится ни к какому рациональному числу.

Больше о метрических пространствах (открытые/замкнутые множества, компактность и т.д.) нам не понадобится – всё, что нужно, это понятия предела, последовательности Коши и полноты, применённые к пространствам функций.

2.2 Нормированные и банаховы пространства

Напомним, что векторное пространство над полем \(\mathbb F\) (у нас \(\mathbb F = \mathbb {R}\) или \(\mathbb F = \mathbb {C}\)) – это множество с операциями сложения и умножения на скаляр, удовлетворяющими стандартным аксиомам (коммутативность и ассоциативность сложения, существование нуля и противоположного элемента, аксиомы для умножения на скаляр). В интересующих нас примерах \(V\) всегда будет некоторым пространством функций \(X \to \mathbb F\) с поточечными операциями, где все аксиомы векторного пространства можно легко проверить.

Определение 7 Нормой на векторном пространстве \(V\) (над \(\mathbb F\)) называется функция \(\left\| \cdot \right\| : V \to [0,+\infty )\), такая что

  • \(\left\| f\right\| = 0 \iff f = 0\) (положительная определенность);

  • \(\left\| \alpha f\right\| = \left|\alpha \right|\left\| f\right\|\) для всех \(\alpha \in \mathbb F, f \in V\) (однородность);

  • \(\left\| f+g\right\| \leq \left\| f\right\| + \left\| g\right\|\) для всех \(f,g \in V\) (неравенство треугольника).

Пара \((V, \left\| \cdot \right\| )\) называется нормированным пространством.

ExampleПример 4

Приведите несколько примеров норм на конечномерных и бесконечномерных пространствах.

SolutionРешение

  • На \(\mathbb {R}^{n}\) (или \(\mathbb {C}^{n}\)): \(\left\| x\right\|_{1} = \left|x_1\right|+\ldots +\left|x_n\right|\), \(\left\| x\right\|_{\infty } = \max \left\{ \left|x_1\right|,\ldots ,\left|x_n\right|\right\}\), обычная евклидова норма \(\left\| x\right\|_{2} = \sqrt{x_1^2+\ldots +x_n^2}\).

  • На пространстве \(C[a,b]\) непрерывных функций на отрезке: \(\left\| f\right\|_{\infty } = \sup_{x\in [a,b]}\left|f(x)\right|\) (равномерная норма), либо \(\left\| f\right\|_{1} = \int_a^b \left|f\right|\).

  • На пространстве последовательностей \(\ell^1 := \left\{ (a_1,a_2,\ldots ) \in \mathbb F^{\mathbb {N}}: \sum_{k=1}^\infty \left|a_k\right| < \infty \right\}\): \(\left\| a\right\|_{1} = \sum_{k=1}^\infty \left|a_k\right|\).

Проверка аксиом нормы для всех примеров, кроме, может быть, неравенства треугольника, тривиальна и оставляется читателю.

Всякое нормированное пространство автоматически становится метрическим:

Лемма 3 Пусть \((V, \left\| \cdot \right\| )\) – нормированное пространство. Тогда \(d(f,g) := \left\| f-g\right\|\) является метрикой на \(V\).

Таким образом, все понятия предыдущего параграфа (предел, последовательность Коши, полнота) автоматически переносятся на нормированные пространства: например, \(f_k \to f\) означает \(\left\| f_k - f\right\| \to 0\), а последовательность Коши – это последовательность, для которой \(\left\| f_j - f_k\right\| \to 0\) при \(j,k \to \infty\).

Определение 8 Полное нормированное пространство называется банаховым пространством.

Разберемся, какие из наших примеров – банаховы пространства.

Теорема 4 \((\mathbb {R}^{n}, \left\| \cdot \right\|_{\infty })\) – банахово пространство. Более того, \(\mathbb {R}^{n}\) (и \(\mathbb {C}^{n}\)) банахово с любой нормой.

Второе утверждение (банаховость с любой нормой) следует из стандартного факта линейной алгебры: все нормы на конечномерном пространстве эквивалентны, т.е. для любых двух норм \(\left\| \cdot \right\|_a, \left\| \cdot \right\|_b\) на \(\mathbb {R}^{n}\) найдутся константы \(0<c\leq C\), такие что \(c\left\| x\right\|_a \leq \left\| x\right\|_b \leq C \left\| x\right\|_a\) для всех \(x\); эквивалентные нормы порождают одни и те же последовательности Коши, так что полнота относительно одной нормы равносильна полноте относительно любой другой.

А что с бесконечномерными пространствами функций? Здесь выбор нормы уже принципиально важен.

Теорема 5 \((C[a,b], \left\| \cdot \right\|_{\infty })\) – банахово пространство.

Идея доказательства: покоординатный (точнее, поточечный) предел последовательности Коши в \(\left\| \cdot \right\|_{\infty }\) существует в каждой точке \(x\in [a,b]\) (числовая последовательность Коши в \(\mathbb F\)), и сходимость Коши в равномерной норме превращается в равномерную сходимость \(f_k \to f\); равномерный предел непрерывных функций непрерывен – стандартный факт математического анализа.

2.3 зачем это нужно теории случайных процессов

Пространство \(C[a,b]\) возникает в теории вероятностей не только как учебный пример нормированного пространства, но и как фазовое пространство случайного процесса с непрерывными траекториями. Скажем, траектория броуновского движения на \([0,T]\) – это (почти наверное) непрерывная функция, т.е. случайный элемент пространства \(C[0,T]\). Многие центральные результаты теории случайных процессов и математической статистики – это утверждения о сходимости по распределению случайных элементов пространства \(C[0,T]\): скажем, принцип инвариантности Донскера (функциональная центральная предельная теорема) утверждает, что нормированные траектории случайного блуждания сходятся по распределению к траектории броуновского движения именно в смысле слабой сходимости вероятностных мер на банаховом пространстве \((C[0,T], \left\| \cdot \right\|_{\infty })\). Полнота этого пространства (только что доказанная теорема) – необходимая техническая предпосылка для того, чтобы такая сходимость вообще была содержательно определена: нужно уметь говорить о пределе последовательности траекторий как о новой траектории, а не только о пределе значений в каждой точке по отдельности. В математической статистике то же самое пространство (или его аналог \(D[0,1]\) со скачками – пространство Скорохода) – естественная среда обитания для эмпирических процессов, лежащих в основе многих непараметрических статистических критериев.

А вот с \(L^1\)-нормой на том же пространстве непрерывных функций все ломается.

ExampleПример 5

Рассмотрим \((C[0,1], \left\| \cdot \right\|_{1})\), где \(\left\| f\right\|_{1} = \int_0^1 \left|f\right|\) – это интеграл Лебега (или интеграл Римана, в данном случае это не важно). Докажите, что это пространство не является банаховым пространством.

SolutionРешение

Идея: приблизим (в \(L^1\)) разрывную функцию непрерывными – предел в \(C[0,1]\) существовать не может. Пусть

\[ f_n(x) := \min \left(1, \, \max \left(0, \, n\left(x - \tfrac 12\right)\right)\right), \qquad n \in \mathbb {N}. \]

Это непрерывная кусочно-линейная функция: она равна \(0\) на \([0,\tfrac 12]\), линейно растет от \(0\) до \(1\) на \([\tfrac 12, \tfrac 12+\tfrac 1n]\) и равна \(1\) на \([\tfrac 12+\tfrac 1n, 1]\) (при больших \(n\); формула автоматически корректна и при \(n\), для которых \(\tfrac 12+\tfrac 1n>1\)).

\((f_n)\) – последовательность Коши в \(\left\| \cdot \right\|_{1}\). При \(m>n\) функции \(f_n, f_m\) совпадают вне интервала \((\tfrac 12, \tfrac 12+\tfrac 1n)\) длины \(\tfrac 1n\), и на нем обе лежат в \([0,1]\), так что \(\left|f_n-f_m\right|\leq 1\) там. Значит \(\left\| f_n-f_m\right\|_{1} \leq \tfrac 1n \xrightarrow [n\to \infty ]{} 0\).

Предела в \(C[0,1]\) нет. Предположим, что \(f_n \to g\) в \(\left\| \cdot \right\|_{1}\) для некоторой \(g \in C[0,1]\). Заметим, что \(\left\| f_n - \; \mathbb {1}_{(1/2,1]}\right\|_{1} = \int_{1/2}^{1/2+1/n}\left|f_n(x) - 1\right|\, dx \leq \tfrac 1n \to 0\) (на остальной части отрезка \(f_n\) и индикатор совпадают). Значит \(f_n \to \; \mathbb {1}_{(1/2,1]}\) и \(f_n \to g\) одновременно в \(\left\| \cdot \right\|_{1}\), откуда (неравенство треугольника) \(\left\| g - \; \mathbb {1}_{(1/2,1]}\right\|_{1} = 0\), т.е. \(g = \; \mathbb {1}_{(1/2,1]}\) п.в. (по мере Лебега). Но если бы непрерывная \(g\) совпадала с индикатором почти всюду, то в силу непрерывности \(g\) и плотности точек, где \(g=0\), слева от \(\tfrac 12\), и точек, где \(g=1\), справа от \(\tfrac 12\), мы получили бы \(g(1/2^-) = 0\) и \(g(1/2^+)=1\) по непрерывности, что противоречит \(g(1/2)=g(1/2)\) (несовместные пределы слева и справа). Значит, такой непрерывной \(g\) не существует, и последовательность Коши \((f_n)\) не сходится в \(C[0,1]\).

Следующий критерий полноты формально аналогичен критерию абсолютной сходимости числовых рядов и будет для нас основным техническим инструментом при доказательстве полноты \(L^p(\mu )\) ниже.

Теорема 6 (критерий полноты через ряды) Нормированное пространство \(V\) банахово тогда и только тогда, когда для любой последовательности \(g_1, g_2, \ldots \in V\), такой что \(\sum_{k=1}^\infty \left\| g_k\right\| < \infty\), ряд \(\sum_{k=1}^\infty g_k\) сходится в \(V\) (т.е. частичные суммы \(\sum_{k=1}^n g_k\) сходятся в \(V\) при \(n\to \infty\)).

(Идея: направление “банахово \(\Rightarrow\) ряды сходятся” – частичные суммы образуют последовательность Коши по неравенству треугольника; обратное направление – любую последовательность Коши можно проредить до подпоследовательности с геометрически убывающими расстояниями между соседними членами, представить её как частичные суммы ряда и применить условие теоремы, что и даёт сходимость.)

ProblemЗадача 6

Докажите, что \(\ell^1\) с нормой \(\left\| a\right\|_{\infty } := \sup_{k\in \mathbb {N}}\left|a_k\right|\) не является банаховым пространством (это норма \(\left\| \cdot \right\|_{\infty }\), унаследованная из \(\ell^\infty \supset \ell^1\), а не собственная норма \(\ell^1\)).

HintПодсказка

Рассмотрите \(g_n = \left(1, \tfrac 12, \tfrac 13, \ldots , \tfrac 1n, 0,0,\ldots \right) \in \ell^1\).

2.4 Линейные функционалы. Теорема Хана–Банаха

Определение 9 Пусть \(V, W\) – нормированные пространства. Линейное отображение \(T: V \to W\) называется ограниченным, если \[ \left\| T\right\| := \sup \left\{ \left\| Tf\right\| : f \in V, \; \left\| f\right\| \leq 1\right\} < \infty . \] Линейным функционалом на \(V\) называется линейное отображение \(\varphi : V \to \mathbb F\) (в поле скаляров).

Теорема 7 Линейное отображение \(T: V \to W\) между нормированными пространствами непрерывно тогда и только тогда, когда оно ограничено.

Множество ограниченных линейных функционалов на \(V\) называется сопряженным (двойственным) пространством и обозначается \(V'\); это само по себе нормированное (и даже банахово) пространство с нормой \(\left\| \varphi \right\| = \sup \left\{ \left|\varphi (f)\right|: \left\| f\right\| \leq 1\right\}\).

ExampleПример 6

Найдите норму линейного функционала \(\varphi (f) = \int_0^1 f(x)\, dx\) на \((C[0,1], \left\| \cdot \right\|_{\infty })\).

SolutionРешение

С одной стороны, для любой \(f\) с \(\left\| f\right\|_{\infty }\leq 1\) имеем \(\left|\varphi (f)\right| \leq \int_0^1 \left|f(x)\right|\, dx \leq \int_0^1 \left\| f\right\|_{\infty }\, dx \leq 1\), значит \(\left\| \varphi \right\| \leq 1\). С другой стороны, для \(f \equiv 1\) (константа) имеем \(\left\| f\right\|_{\infty }=1\) и \(\varphi (f) = 1\). Значит супремум достигается и \(\left\| \varphi \right\| = 1\).

Существование разрывных линейных функционалов на бесконечномерных пространствах – это, как ни странно, довольно тонкий факт, требующий базиса Гамеля и леммы Цорна (мы не будем на этом останавливаться). Гораздо более полезен для анализа следующий результат – о существовании непрерывных (=ограниченных) функционалов “в достаточном количестве”.

Теорема 8 (Хан–Банах, б/д) Пусть \(V\) – нормированное пространство, \(U \subset V\) – подпространство, \(\psi : U \to \mathbb F\) – ограниченный линейный функционал. Тогда \(\psi\) можно продолжить до ограниченного линейного функционала \(\varphi : V \to \mathbb F\) с той же нормой: \(\left\| \varphi \right\| = \left\| \psi \right\|\).

Одно из самых полезных следствий теоремы Хана–Банаха – то, что на любом нетривиальном нормированном пространстве достаточно много функционалов, чтобы “чувствовать” норму любого вектора.

Следствие 2 Пусть \(V\) – нормированное пространство, \(f \in V\), \(f \neq 0\). Тогда существует \(\varphi \in V'\), такой что \(\left\| \varphi \right\| = 1\) и \(\varphi (f) = \left\| f\right\|\).

Действительно, достаточно определить \(\psi\) на одномерном подпространстве \(U = \left\{ \alpha f: \alpha \in \mathbb F\right\}\) формулой \(\psi (\alpha f) = \alpha \left\| f\right\|\) (тогда \(\left\| \psi \right\| =1\), \(\psi (f)=\left\| f\right\|\)) и продолжить по теореме Хана–Банаха.

ProblemЗадача 7

Пусть \(V\) – нормированное пространство, такое что \(V' = \left\{ 0\right\}\) (единственный ограниченный линейный функционал на \(V\) – нулевой). Докажите, используя следствие Следствие 2, что \(V = \left\{ 0\right\}\).

Тема линейных функционалов и банаховых пространств гораздо шире описанного здесь: есть еще теорема Бэра о категориях и ее следствия – теорема об открытом отображении, теорема о замкнутом графике, принцип равномерной ограниченности (принцип Банаха–Штейнгауза). Эти результаты составляют ядро классического функционального анализа, но выходят за рамки нашего курса; желающие могут ознакомиться с ними, например, в (Axler 2020 г., разд. 6E) или в любом учебнике по функциональному анализу.

2.5 Полнота: теорема Рисса–Фишера

Вот теперь мы можем воспользоваться критерием полноты через ряды (теорема Теорема 6) и получить одно из важнейших свойств \(L^p\)-пространств.

Теорема 9 (Рисс–Фишер) Пусть \(\mu\) – мера, \(1\leq p \leq \infty\). Тогда \(L^p(\mu )\) – банахово пространство.

(Идея, для \(1\leq p<\infty\): по критерию Теорема 6 достаточно взять произвольный ряд \(\sum_k g_k\) с \(\sum_k\left\| g_k\right\|_{p}<\infty\) и предъявить его сумму. Мажоранта \(G:=\sum_k\left|g_k\right|\) лежит в \(\mathcal L^p(\mu )\) по неравенству Минковского и теореме о монотонной сходимости, значит конечна п.в.; там, где она конечна, ряд \(\sum_k g_k(x)\) сходится абсолютно к некоторому \(f(x)\), и \(\left|f-F_N\right|^p\leq G^p\) дает по теореме о мажорируемой сходимости \(\left\| f-F_N\right\|_{p}\to 0\).)

2.6 Плотность простых функций

Теорема 10 Пусть \(1\leq p<\infty\), \(f \in \mathcal L^p(\mu )\). Тогда для любого \(\varepsilon >0\) найдется простая функция \(s \in \mathcal L^p(\mu )\), такая что \(\left\| f-s\right\|_{p}<\varepsilon\).

2.7 Сходимость в \(L^p\) и другие виды сходимости

Сходимость \(f_n \to f\) в \(L^p(\mu )\) (т.е. \(\left\| f_n-f\right\|_{p}\to 0\)) – третий вид сходимости измеримых функций, который мы встречаем в курсе (после сходимости п.в. и сходимости по мере из главы о сходимостях измеримых функций). Как эти сходимости связаны?

ProblemЗадача 8

Пусть \(1\leq p<\infty\), \(f_n \to f\) в \(L^p(\mu )\). Докажите, что \(f_n \to f\) по мере \(\mu\).

HintПодсказка

Примените неравенство Маркова (теорема неравенство Маркова) к \(\left|f_n-f\right|^p\).

В частности, по теореме Ф. Рисса о сходимости по мере (глава о сходимостях измеримых функций), из \(L^p\)-сходимости следует существование подпоследовательности, сходящейся к \(f\) п.в. – полностью аналогично тому, как это было со сходимостью по мере. Обратное, разумеется, неверно: сходимость п.в. (и даже равномерная сходимость) не обязана влечь \(L^p\)-сходимость без дополнительных условий (мажорируемости и т.п.) – вспомните контрпримеры к лемме Фату и теореме о мажорируемой сходимости из главы о свойствах интеграла Лебега.

3 Гильбертово пространство \(L^2(\mu )\)

В §2 мы ввели банаховы пространства и, в частности, пространства \(L^p(\mu )\) с нормой \(\left\| \cdot \right\|_{p}\). Среди всех \(L^p(\mu )\) особое место занимает случай \(p=2\): именно тогда норма порождается некоторой билинейной (в комплексном случае – полуторалинейной) формой – скалярным произведением, и в пространстве, помимо длин, появляется геометрия углов и ортогональности. Такие (полные) пространства называются гильбертовыми.

Главная причина, по которой они нам понадобятся в курсе теории вероятностей, статистики и случайных процессов: условное математическое ожидание \(\mathbb {E}\left[X\mid \mathcal G\right]\) для \(X\in L^2\) есть в точности ортогональная проекция \(X\) на замкнутое подпространство \(L^2(\Omega ,\mathcal G,\mathbb {P})\). Мы вернемся к этому наблюдению ниже, сразу после того как докажем теорему о проекции – главный результат этого раздела.

3.1 Скалярное произведение

Определение 10 Пусть \(V\) – векторное пространство над \(\mathbb F\), где \(\mathbb F = \mathbb {R}\) или \(\mathbb F = \mathbb {C}\). Скалярным произведением на векторном пространстве \(V\) над полем \(\mathbb {F}\) (\(\mathbb {R}\) или \(\mathbb {C}\)) называется функция \(\langle \cdot , \cdot \rangle : V \times V \to \mathbb {F}\), удовлетворяющая свойствам:

  1. Положительная определённость: \(\langle f, f \rangle \geq 0\) для всех \(f \in V\), причём \(\langle f, f \rangle = 0\) тогда и только тогда, когда \(f = 0\).

  2. Линейность по первому аргументу: \(\langle f + g, h \rangle = \langle f, h \rangle + \langle g, h \rangle\) и \(\langle \alpha f, g \rangle = \alpha \langle f, g \rangle\) для всех \(f, g, h \in V\) и \(\alpha \in \mathbb {F}\).

  3. Эрмитова симметрия (сопряжённая симметричность): \(\langle f, g \rangle = \overline{\langle g, f \rangle }\) для всех \(f, g \in V\). Пара \((V,\left\langle \cdot , \cdot \right\rangle )\) называется пространством со скалярным произведением (или предгильбертовым пространством).

Из аксиом 2-3 несложно вывести линейность по второму аргументу с сопряжением: \(\left\langle f, g+h \right\rangle = \left\langle f, g \right\rangle +\left\langle f, h \right\rangle\), \(\left\langle f, \alpha g \right\rangle = \bar\alpha \left\langle f, g \right\rangle\).

Все примеры этого курса, идущие из теории вероятностей, вещественны, поэтому везде далее в этом разделе мы полагаем \(\mathbb F=\mathbb {R}\), если явно не оговорено иное. В этом случае аксиома 3 превращается в обычную симметрию \(\left\langle f, g \right\rangle = \left\langle g, f \right\rangle\), а все сопряжения в формулах ниже можно просто убрать. Все определения и теоремы этого раздела дословно переносятся на комплексный случай (с появлением черты комплексного сопряжения там, где это уместно); мы будем изредка отмечать это в замечаниях.

Примеры.

  • Пусть \((X,\mathcal F,\mu )\) – пространство с мерой. На \(L^2(\mu )\) определим

    \[ \left\langle f, g \right\rangle := \int fg \; d\mu . \]

    Это корректно определено: по неравенству Гёльдера при \(p=q=2\) (доказанному в §1) для \(f,g\in L^2(\mu )\) выполнено \(\int \left|fg\right|\; d\mu \leq \left\| [\right\| 2]f\cdot \left\| [\right\| 2]g <\infty\), так что интеграл \(\int fg\; d\mu\) абсолютно сходится и конечен. Скалярное произведение \(\left\langle f, g \right\rangle = \int fg\, d\mu\) – это в точности та форма, которая порождает норму \(\left\| \cdot \right\|_{2}\) из §1 (см. ниже определение нормы, порожденной скалярным произведением). Это главный для нас пример: почти всё, что нам понадобится далее из теории вероятностей, – частный случай именно этого пространства.

  • Взяв \(\mu = \#\) – считающую меру на \(\left\{ 1,\ldots ,n\right\}\) – получаем \(\mathbb {R}^{n}\) со стандартным скалярным произведением \(\left\langle (a_1,\ldots ,a_n), (b_1,\ldots ,b_n) \right\rangle = \sum_{i=1}^n a_ib_i\).

  • Взяв \(\mu =\#\) – считающую меру на \(\mathbb {N}\) – получаем \(\ell^2 := \left\{ (a_k)_{k=1}^\infty \; : \; \sum_k a_k^2 <\infty \right\}\) со скалярным произведением \(\left\langle (a_k), (b_k) \right\rangle = \sum_{k=1}^\infty a_kb_k\).

В комплексном случае (\(\mathbb F=\mathbb {C}\)) те же три примера дают \(\mathbb {C}^{n}\), \(\ell^2\) и \(L^2(\mu )\) над \(\mathbb {C}\) со скалярными произведениями \(\left\langle f, g \right\rangle = \int f\overline g\; d\mu\) и т.д. (черта – комплексное сопряжение).

Определение 11 Пусть \((V,\left\langle \cdot , \cdot \right\rangle )\) – пространство со скалярным произведением. Нормой, порожденной скалярным произведением, называется \[ \left\| f\right\| := \sqrt{\left\langle f, f \right\rangle }, \qquad f \in V. \]

Из аксиомы 1 сразу следует \(\left\| f\right\| \geq 0\) и \(\left\| f\right\| = 0 \iff f=0\); из линейности и эрмитовой симметрии – однородность \(\left\| \alpha f\right\| = \left|\alpha \right|\left\| f\right\|\) (проверьте: \(\left\| \alpha f\right\|^2 = \left\langle \alpha f, \alpha f \right\rangle = \alpha \bar\alpha \left\langle f, f \right\rangle = \left|\alpha \right|^2\left\| f\right\|^2\)). Осталось неравенство треугольника – оно последует из следующего фундаментального неравенства.

Теорема 11 (неравенство Коши–Буняковского–Шварца) Пусть \((V,\left\langle \cdot , \cdot \right\rangle )\) – (вещественное) пространство со скалярным произведением, \(f,g\in V\). Тогда \[ \left|\left\langle f, g \right\rangle \right| \leq \left\| f\right\| \cdot \left\| g\right\| , \] причем равенство выполнено тогда и только тогда, когда \(f,g\) линейно зависимы.

В комплексном случае доказательство почти дословно повторяется: нужно взять \(t=\overline{\left\langle f, g \right\rangle }/\left\| g\right\|^2 \in \mathbb {C}\) вместо вещественного параметра (эквивалентно – применить только что доказанный вещественный случай к паре \(f, e^{i\theta }g\) для такого \(\theta\), что \(\left\langle f, e^{i\theta }g \right\rangle \in \mathbb {R}\)).

Следствие 3 (\(\left\| \cdot \right\|\) – действительно норма) \(\left\| \cdot \right\|\) является нормой на \(V\): неотрицательность, невырожденность и однородность разобраны выше, а неравенство треугольника следует из теоремы Теорема 11: \[ \left\| f+g\right\| ^2 = \left\| f\right\| ^2+2\left\langle f, g \right\rangle +\left\| g\right\| ^2 \leq \left\| f\right\| ^2 + 2\left\| f\right\| \left\| g\right\| + \left\| g\right\| ^2 = \left(\left\| f\right\| +\left\| g\right\| \right)^2. \]

Теорема 12 (тождество параллелограмма) Для любых \(f,g\in V\) \[ \left\| f+g\right\| ^2+\left\| f-g\right\| ^2 = 2\left\| f\right\| ^2+2\left\| g\right\| ^2. \]

Геометрически: сумма квадратов диагоналей параллелограмма равна сумме квадратов всех его сторон. Тождество параллелограмма – это ровно то свойство нормы, которое отличает нормы, порожденные скалярным произведением, от произвольных норм: можно показать (мы не будем это доказывать – см. Axler, упражнение 8A.16), что норма на векторном пространстве порождена некоторым скалярным произведением тогда и только тогда, когда она удовлетворяет тождеству параллелограмма.

Определение 12 (гильбертово пространство) Гильбертовым пространством называется пространство со скалярным произведением, полное относительно нормы, порожденной этим скалярным произведением (т.е. банахово пространство, норма которого порождена некоторым скалярным произведением).

Примеры. \(\mathbb {R}^{n}\) и \(\ell^2\) со стандартными скалярными произведениями – гильбертовы пространства (полнота – стандартный факт линейной алгебры / анализа). Главный для нас пример: \(L^2(\mu )\) – гильбертово пространство для любого пространства с мерой \((X,\mathcal F,\mu )\), поскольку оно уже известно нам как полное (теорема Рисса–Фишера из §2), а его норма \(\left\| \cdot \right\|_{2}\) порождена скалярным произведением \(\left\langle f, g \right\rangle =\int fg\; d\mu\), введенным выше.

ProblemЗадача 9

Покажите, что норма \(\left\| \cdot \right\|_{1}\) на \(\mathbb {R}^{2}\) (т.е. \(\left\| (a,b)\right\|_{1} = \left|a\right| + \left|b\right|\)) не удовлетворяет тождеству параллелограмма. Выведите отсюда, что эта норма не порождена никаким скалярным произведением на \(\mathbb {R}^{2}\) (в частности, \(\ell^1\) и \(L^1(\mu )\), вообще говоря, не гильбертовы пространства).

ProblemЗадача 10

Пусть \(\mu\) – мера, \(f,g\in L^2(\mu )\). Покажите непосредственно (не используя неравенство Гёльдера), что \(\int \left|fg\right|\; d\mu <\infty\), используя элементарное неравенство \(\left|ab\right|\leq \frac12(a^2+b^2)\) для \(a,b\in \mathbb {R}\).

HintПодсказка

Примените неравенство к \(a=\left|f(x)\right|\), \(b=\left|g(x)\right|\) и проинтегрируйте.

3.2 Ортогональность. Теорема о проекции

Определение 13 Элементы \(f,g\) пространства со скалярным произведением называются ортогональными (\(f\perp g\)), если \(\left\langle f, g \right\rangle =0\).

Теорема 13 (теорема Пифагора) Если \(f\perp g\), то \(\left\| f+g\right\|^2 = \left\| f\right\|^2+\left\| g\right\|^2\).

Определение 14 Пусть \(U\subseteq V\) – произвольное подмножество пространства со скалярным произведением \(V\). Ортогональным дополнением \(U\) называется \[ U^\perp := \left\{ h\in V \; : \; \left\langle g, h \right\rangle =0 \; \; \forall g\in U\right\} . \]

Лемма 4 (свойства ортогонального дополнения) Пусть \(U,W\) – подмножества пространства со скалярным произведением \(V\). Тогда

  1. \(U^\perp\) – замкнутое линейное подпространство \(V\);

  2. \(U\cap U^\perp \subseteq \left\{ 0\right\}\);

  3. если \(W\subseteq U\), то \(U^\perp \subseteq W^\perp\);

  4. \(U \subseteq U^{\perp \perp } := \left(U^\perp \right)^\perp\).

(Пункты (b)–(d) – прямые следствия определения; в (a) линейность также очевидна, а замкнутость следует из непрерывности скалярного произведения: если \(h_n\in U^\perp\), \(h_n\to h\), то \(\left|\left\langle g, h \right\rangle \right|=\left|\left\langle g, h-h_n \right\rangle \right|\leq \left\| g\right\| \left\| h-h_n\right\| \to 0\) по неравенству Коши–Буняковского–Шварца для любого \(g\in U\).)

Определение 15 Подмножество \(U\) векторного пространства называется выпуклым, если \((1-t)f+tg \in U\) для всех \(f,g\in U\), \(t\in [0,1]\).

Каждое линейное подпространство выпукло (проверьте!), но не наоборот (например, шар).

Следующая теорема – технический центр этого раздела. Именно в ней впервые по-настоящему используется полнота: без нее (т.е. в произвольном пространстве со скалярным произведением, не гильбертовом) утверждение, вообще говоря, неверно – ближайшей точки может не существовать.

Теорема 14 (о проекции на замкнутое выпуклое множество) Пусть \(H\) – гильбертово пространство, \(U\subseteq H\) – непустое замкнутое выпуклое подмножество, \(f\in H\). Тогда существует единственный элемент \(g\in U\), реализующий расстояние от \(f\) до \(U\): \[ \left\| f-g\right\| = \operatorname {dist}(f,U) := \inf _{u\in U}\left\| f-u\right\| . \]

Определение 16 (ортогональная проекция) Пусть \(U\) – непустое замкнутое выпуклое подмножество гильбертова пространства \(H\). Ортогональной проекцией \(H\) на \(U\) называется отображение \(P_U : H\to U\), сопоставляющее \(f\in H\) единственный (по теореме Теорема 14) ближайший к нему элемент \(U\).

ExampleПример 7

Пусть \(H\) – гильбертово пространство, \(U=\left\{ g\in H \; : \; \left\| g\right\| \leq 1\right\}\) – замкнутый единичный шар (он выпуклый и замкнутый, теорема Теорема 14 применима). Найдите \(P_Uf\) для \(f\in H\).

SolutionРешение

Если \(\left\| f\right\| \leq 1\), то \(f\in U\) и очевидно ближайшая точка – сам \(f\): \(P_Uf=f\). Если \(\left\| f\right\| >1\), то утверждается \(P_Uf = f/\left\| f\right\|\). Действительно, \(\left\| f/\left\| f\right\| \right\| =1\), так что \(f/\left\| f\right\| \in U\); для любого \(g\in U\) (т.е. \(\left\| g\right\| \leq 1\)) можно проверить (раскрыв скалярные произведения), что \(\left\| f-g\right\| \geq \left\| f\right\| - 1 = \left\| f-f/\left\| f\right\| \right\|\), т.е. \(f/\left\| f\right\|\) – действительно ближайшая точка. Это показывает, что \(P_U\) определена не только на замкнутых подпространствах, но и на произвольных замкнутых выпуклых множествах – впрочем, далее нас будет интересовать только случай подпространства.

Специализируем теорему о проекции на случай, когда \(U\) – замкнутое линейное подпространство (а не просто выпуклое множество). Именно этот случай нам понадобится для теоремы Рисса и (в дальнейшем курсе теории вероятностей) для условного математического ожидания.

Теорема 15 (свойства ортогональной проекции на подпространство) Пусть \(U\) – замкнутое линейное подпространство гильбертова пространства \(H\), \(f\in H\). Тогда

  1. \(f-P_Uf \perp g\) для каждого \(g\in U\);

  2. если \(h\in U\) и \(f-h\perp g\) для каждого \(g\in U\), то \(h=P_Uf\);

  3. \(P_U : H\to H\) – линейное отображение;

  4. \(\left\| P_Uf\right\| \leq \left\| f\right\|\).

(Идея: (a) следует из того, что \(P_Uf\) минимизирует \(\left\| f-\cdot \right\|\) вдоль всей прямой \(P_Uf+\alpha g\subset U\), \(\alpha \in \mathbb {R}\) – квадратичная функция от \(\alpha\) с минимумом в \(0\) обязана иметь нулевую производную там, что и дает ортогональность. (b) – переформулировка (a): характеристическое свойство “\(f-h\perp U\)” однозначно определяет \(h=P_Uf\). (c) – линейность \(P_U\) следует из (b), примененного к \(h=P_Uf_1+\alpha P_Uf_2\). (d) – теорема Пифагора для \(f=(f-P_Uf)+P_Uf\), с ортогональными слагаемыми по (a).)

ProblemЗадача 11

Пусть \(U\) – замкнутое линейное подпространство гильбертова пространства \(H\). Докажите, что \(P_U\circ P_U = P_U\) (т.е. \(P_U\) – идемпотентно), и что \(P_Uf = f \iff f\in U\).

Теперь – ключевой геометрический факт: замкнутое подпространство и его ортогональное дополнение “расщепляют” всё пространство.

Теорема 16 (ортогональное разложение) Пусть \(U\) – замкнутое линейное подпространство гильбертова пространства \(H\). Тогда каждый элемент \(f\in H\) единственным образом представляется в виде \[ f = g+h, \qquad g\in U, \; \; h\in U^\perp , \] а именно \(g=P_Uf\), \(h=f-P_Uf\). Коротко это записывают \(H = U\oplus U^\perp\).

(Существование: \(f=P_Uf+(f-P_Uf)\), где первое слагаемое в \(U\), а второе в \(U^\perp\) по теореме Теорема 15(a). Единственность: если \(f=g_1+h_1=g_2+h_2\) – два таких разложения, то \(g_1-g_2=h_2-h_1\in U\cap U^\perp =\left\{ 0\right\}\) по лемме Лемма 4(b).)

Следствие 4 Если \(U\) – замкнутое линейное подпространство гильбертова пространства \(H\), то \(U^{\perp \perp }=U\).

3.3 зачем всё это нужно теории вероятностей

Пусть \((\Omega ,\mathcal F,\mathbb {P})\) – вероятностное пространство, \(\mathcal G\subseteq \mathcal F\) – под-\(\sigma\)-алгебра. Пространство \(L^2(\Omega ,\mathcal G,\mathbb {P})\) естественно вкладывается в \(L^2(\Omega ,\mathcal F,\mathbb {P})\) как замкнутое линейное подпространство, так что для любого \(X\in L^2(\Omega ,\mathcal F,\mathbb {P})\) по теореме Теорема 16 корректно определена его ортогональная проекция на это подпространство – и именно так лучше всего понимать условное математическое ожидание: \(\mathbb {E}\left[X\mid \mathcal G\right] := P_{L^2(\Omega ,\mathcal G,\mathbb {P})}X\) (эта конструкция затем распространяется с \(L^2\) на все интегрируемые случайные величины уже другими средствами; мы не развиваем эту теорию здесь – это тема отдельного курса теории вероятностей). Отметим лишь сам факт: одна из центральных конструкций теории вероятностей – буквально частный случай ортогональной проекции в гильбертовом пространстве.

3.4 регрессия, предсказание, разложение Карунена–Лоэва

Та же геометрическая картина стоит за несколькими другими центральными конструкциями статистики и теории случайных процессов.

  • Наилучший в среднеквадратичном смысле прогноз. Пусть \(X, Y \in L^2(\Omega ,\mathcal F,\mathbb {P})\). Величина \(g(X)\), минимизирующая среднеквадратичную ошибку прогноза \(\mathbb {E}\left[(Y-g(X))^2\right]\) по всем измеримым \(g\) (с \(g(X) \in L^2\)), – это в точности проекция \(Y\) на подпространство \(L^2(\Omega ,\sigma (X),\mathbb {P}) \subset L^2(\Omega ,\mathcal F,\mathbb {P})\), т.е. \(\mathbb {E}\left[Y\mid X\right]\) из предыдущего замечания. Линейная регрессия – та же самая экстремальная задача, только проекция берется не на всё \(L^2(\Omega ,\sigma (X),\mathbb {P})\), а на его (конечномерное, а значит автоматически замкнутое) подпространство \(\left\langle 1,X\right\rangle\) линейных функций от \(X\); явная формула для коэффициентов линейной регрессии – это в точности уравнения (a) из теоремы Теорема 15, записанные для этого подпространства.

  • Разложение Карунена–Лоэва. Пусть \((X_t)_{t\in [0,T]}\) – случайный процесс с \(\mathbb {E}\left[X_t^2\right]<\infty\) при всех \(t\) и непрерывной ковариационной функцией. Оказывается, траекторию такого процесса можно представить в виде ряда

    \[ X_t \; = \; \sum _{k=1}^\infty \xi _k \, e_k(t), \qquad t \in [0,T], \]

    где \((e_k)\) – некоторый ортонормированный базис (в подходящем \(L^2\)-пространстве функций на \([0,T]\), построенный из собственных функций оператора ковариации), а случайные величины \(\xi_k := \left\langle X, e_k \right\rangle\) попарно некоррелированы. Формально это в точности формула для разложения элемента гильбертова пространства по ортонормированному базису (см. тождество Парсеваля, теорема Теорема 20, и замечание после нее), примененная к траектории \(X\) как к одному элементу подходящего \(L^2\)-пространства. Мы не развиваем эту теорию здесь – построение самого базиса \((e_k)\) требует отдельной техники (теории интегральных операторов) – но подчеркнем: без гильбертовой геометрии эту конструкцию пришлось бы каждый раз изобретать заново.

ProblemЗадача 12

Пусть \(U\) – непустое замкнутое выпуклое подмножество гильбертова пространства \(H\), и \(g\in U\) – ближайший к \(0\) элемент \(U\) (т.е. \(g = P_U0\)). Докажите, что \(\left\langle g, h \right\rangle \geq \left\| g\right\|^2\) для всех \(h\in U\).

HintПодсказка

Примените выкладку из доказательства теоремы Теорема 14(a) (см. также доказательство теоремы Теорема 15(a)) к \(f=0\).

3.4.1 Теорема Рисса о представлении

Следующий результат – красивая и практически важная теорема, полностью описывающая, как выглядят ограниченные линейные функционалы на гильбертовом пространстве.

Теорема 17 (Ф. Рис, теорема о представлении) Пусть \(H\) – гильбертово пространство, \(\varphi : H\to \mathbb {R}\) – ограниченный линейный функционал (т.е. \(\varphi\) линеен и \(\left\| \varphi \right\| := \sup \left\{ \left|\varphi (f)\right| \; : \; \left\| f\right\| \leq 1\right\} <\infty\)). Тогда существует единственный \(u\in H\), такой что \[ \varphi (f) = \left\langle f, u \right\rangle \qquad \forall f\in H. \] Более того, \(\left\| \varphi \right\| = \left\| u\right\|\).

В частности, для \(H=L^2(\mu )\) теорема Рисса означает: каждый ограниченный линейный функционал на \(L^2(\mu )\) имеет вид \(\varphi (f) = \int fu\; d\mu\) для единственной \(u\in L^2(\mu )\). Иначе говоря, \(L^2(\mu )\) – это (в некотором точном смысле) “двойственное пространство самому себе”; это специфика именно \(p=2\), при других \(p\) двойственным к \(L^p(\mu )\) является \(L^{p'}(\mu )\) (\(p'\) – сопряженный показатель) для другой, вообще говоря, функции \(u\).

3.5 Ортонормированные системы и базисы

Всюду в этом параграфе речь идет только о счетных (конечных или бесконечных) семействах – этого достаточно для всех вероятностных приложений (см. замечание после определения ортонормированного базиса).

Определение 17 Конечная или счетная система \((e_k)_k\) элементов пространства со скалярным произведением \(V\) называется ортонормированной, если \[ \left\langle e_j, e_k \right\rangle = \begin{cases} 1, & j=k,\\ 0, & j\neq k. \end{cases} \]

Примеры. Стандартные базисные векторы \(e_k=(0,\ldots ,0,1,0,\ldots )\) (единица на \(k\)-м месте) образуют ортонормированную систему в \(\mathbb {R}^{n}\) и в \(\ell^2\).

3.5.1 Процесс Грама–Шмидта. Неравенство Бесселя

Теорема 18 (Грам–Шмидт) Пусть \(f_1,f_2,\ldots\) – конечная или счетная линейно независимая система в пространстве со скалярным произведением \(V\). Тогда существует ортонормированная система \(e_1,e_2,\ldots\) (той же длины), такая что для каждого \(n\) \[ \left\langle f_1,\ldots ,f_n\right\rangle = \left\langle e_1,\ldots ,e_n\right\rangle . \]

ExampleПример 8

Ортонормируйте систему \(f_0(x)=1\), \(f_1(x)=x\) в \(L^2([-1,1])\) (относительно меры Лебега) процессом Грама–Шмидта.

SolutionРешение

\(\left\| f_0\right\|^2 = \int_{-1}^1 1\; dx = 2\), поэтому \(e_0 = f_0/\left\| f_0\right\| = 1/\sqrt2\).

Далее, \(\left\langle f_1, e_0 \right\rangle = \int_{-1}^1 \frac{x}{\sqrt2}\; dx = 0\) (нечетная функция на симметричном отрезке), так что \(f_1\) уже ортогонален \(e_0\), и достаточно его отнормировать: \(\left\| f_1\right\|^2 = \int_{-1}^1x^2\; dx = \frac23\), поэтому

\[ e_1(x) = \frac{x}{\sqrt{2/3}} = x\sqrt{\frac32}. \]

(Продолжая этот процесс для \(f_2(x)=x^2\), \(f_3(x)=x^3,\ldots\), получаются – с точностью до нормировки – многочлены Лежандра.)

Теорема 19 (неравенство Бесселя) Пусть \((e_k)_k\) – конечная или счетная ортонормированная система в пространстве со скалярным произведением \(V\), \(f\in V\). Тогда \[ \sum _k \left|\left\langle f, e_k \right\rangle \right|^2 \leq \left\| f\right\| ^2. \]

(Идея, для конечного набора индексов \(1,\ldots ,n\) – счетный случай следует предельным переходом: пусть \(g:=\sum_{k=1}^n\left\langle f, e_k \right\ranglee_k\); прямой проверкой \(f-g\perp e_j\) для каждого \(j\), а значит \(f-g\perp g\), и теорема Пифагора для \(f=(f-g)+g\) дает \(\left\| f\right\|^2 = \left\| f-g\right\|^2+\left\| g\right\|^2 \geq \left\| g\right\|^2 = \sum_{k=1}^n\left|\left\langle f, e_k \right\rangle \right|^2\).)

3.5.2 Ортонормированный базис. Тождество Парсеваля

В произвольном (не обязательно сепарабельном) гильбертовом пространстве ортонормированный базис (в смысле определения ниже) существует всегда, но доказательство в общем случае существенно опирается на лемму Цорна (см. Axler, теорема 8.75). Нам это не понадобится: во всех вероятностных приложениях достаточно рассматривать сепарабельные гильбертовы пространства (т.е. содержащие счетное всюду плотное подмножество) – например, \(L^2(\Omega ,\mathcal F,\mathbb {P})\) для счетно порожденной \(\sigma\)-алгебры \(\mathcal F\). Для таких пространств ортонормированный базис можно построить явно процессом Грама–Шмидта (теорема Теорема 18), примененным к счетному плотному множеству. Поэтому далее мы говорим только о счетных ортонормированных базисах.

Определение 18 (ортонормированный базис) Счетная (конечная или бесконечная) ортонормированная система \((e_k)_{k=1}^\infty\) в гильбертовом пространстве \(H\) называется ортонормированным базисом \(H\), если \[ \overline{\left\langle e_k \; : \; k\right\rangle } = H, \] т.е. конечные линейные комбинации элементов \(e_k\) плотны в \(H\).

Несмотря на название, ортонормированный базис (при бесконечном \(H\)) не является базисом в смысле линейной алгебры: элемент \(f\in H\) представляется не конечной линейной комбинацией \(e_k\), а – как показывает следующая теорема – сходящимся рядом.

Теорема 20 (тождество Парсеваля) Пусть \((e_k)_{k=1}^\infty\) – ортонормированный базис гильбертова пространства \(H\), \(f,g\in H\). Тогда

  1. \(f = \sum_{k=1}^\infty \left\langle f, e_k \right\ranglee_k\) (ряд сходится по норме \(H\));

  2. \(\left\langle f, g \right\rangle = \sum_{k=1}^\infty \left\langle f, e_k \right\rangle \left\langle g, e_k \right\rangle\);

  3. \(\left\| f\right\|^2 = \sum_{k=1}^\infty \left|\left\langle f, e_k \right\rangle \right|^2\).

(Идея: положим \(S_n:=\sum_{k=1}^n\left\langle f, e_k \right\ranglee_k\). По неравенству Бесселя ряд \(\sum_k\left|\left\langle f, e_k \right\rangle \right|^2\) сходится, откуда (по теореме Пифагора для хвостов) \((S_n)\) – последовательность Коши, а значит сходится к некоторому \(s\in H\) (\(H\) полно); из ортогональности \(f-S_n\perp e_j\) при \(n\geq j\) и непрерывности скалярного произведения получаем \(f-s\perp e_j\) для всех \(j\), т.е. \(f-s\in \left(\overline{\left\langle e_k:k\right\rangle }\right)^\perp = H^\perp =\left\{ 0\right\}\) – это и дает (a); (b),(c) немедленно следуют из (a) предельным переходом.)

3.6 проекция через ортонормированный базис

Если \((e_k)\) – ортонормированный базис замкнутого подпространства \(U\subseteq H\) (не обязательно всего \(H\)), то тем же рассуждением, что в доказательстве тождества Парсеваля (примененным внутри гильбертова пространства \(U\)), получаем формулу для ортогональной проекции: \[ P_Uf = \sum _k \left\langle f, e_k \right\ranglee _k, \qquad f\in H. \] В частности, это дает практический способ вычисления условного матожидания: если известен ортонормированный базис \((e_k)\) пространства \(L^2(\Omega ,\mathcal G,\mathbb {P})\), то \(\mathbb {E}\left[X\mid \mathcal G\right] = \sum_k\left\langle X, e_k \right\ranglee_k\).

ExampleПример 9

Пусть \(H=\ell^2\), и \(\varphi : \ell^2 \to \mathbb {R}\) определен формулой \(\varphi \left((a_1,a_2,\ldots )\right) = a_1\) (проекция на первую координату). Проверьте, что \(\varphi\) – ограниченный линейный функционал, и найдите его представитель \(u\in \ell^2\) из теоремы Рисса (теорема Теорема 17).

SolutionРешение

Линейность очевидна. Ограниченность: \(\left|\varphi (a)\right| = \left|a_1\right| \leq \left\| a\right\|\) (т.к. \(a_1^2 \leq \sum_k a_k^2 = \left\| a\right\|^2\)), так что \(\left\| \varphi \right\| \leq 1\); при этом на \(a=e_1=(1,0,0,\ldots )\) (норма \(1\)) значение \(\varphi (e_1)=1\), значит \(\left\| \varphi \right\| =1\).

Заметим, что \(\varphi (a) = a_1 = \left\langle a, e_1 \right\rangle\) для стандартного базисного вектора \(e_1=(1,0,0,\ldots )\). Значит, \(u=e_1\) – искомый представитель (и по теореме единственный), \(\left\| u\right\| = 1 = \left\| \varphi \right\|\), что согласуется с формулой \(\left\| \varphi \right\| =\left\| u\right\|\).

ProblemЗадача 13

Покажите, что стандартные базисные векторы \(e_k=(0,\ldots ,0,1,0,\ldots )\) (\(k\in \mathbb {N}\)) образуют ортонормированный базис \(\ell^2\) (т.е. что \(\overline{\left\langle e_k\; :\; k\in \mathbb {N}\right\rangle }=\ell^2\)).

HintПодсказка

Для \(a=(a_1,a_2,\ldots )\in \ell^2\) рассмотрите \(S_n=\sum_{k=1}^n a_ke_k\) и покажите, что \(\left\| a-S_n\right\| \to 0\), используя сходимость ряда \(\sum_ka_k^2\).

4 Двойственность (анонс)

Закончим главу коротким анонсом одного из центральных фактов теории пространств \(L^p\) – он свяжет всё, что мы обсудили в этой главе, воедино.

4.1 теорема Рисса о представлении, б/д

Пусть \(\mu\) – \(\sigma\)-конечная мера, \(1<p<\infty\), \(p'\) – сопряженный показатель. Тогда отображение \(h \mapsto \varphi_h\), где \(\varphi_h(f) := \int fh\, d\mu\), устанавливает изометрический изоморфизм между \(L^{p'}(\mu )\) и сопряженным пространством \(\left(L^p(\mu )\right)'\). Короче говоря, “\(\left(L^p\right)' = L^{p'}\)”. (При \(p=1\) это тоже верно, если \(\mu\) \(\sigma\)-конечна; при \(p=\infty\) – уже нет, сопряженное к \(L^\infty\) пространство устроено существенно сложнее, чем \(L^1\).)

Частный случай \(p=p'=2\) этого факта – это теорема Рисса о представлении для гильбертова пространства \(L^2(\mu )\) (теорема Теорема 17 из §3 этой же главы), которую мы, в отличие от общего случая, полностью доказали – используя лишь геометрию проекций, без всякого Хана–Банаха. Это же наблюдение станет ключевым шагом в доказательстве теоремы Радона–Никодима в следующей главе.

использованная литература

Axler, Sheldon. 2020 г. Measure, Integration & Real Analysis. Springer.