Этот конспект ещё находится в процессе редактуры: в тексте могут встречаться опечатки, неточности и локально не проработанные места. Если что-то нашли — сообщите, пожалуйста, автору (контакты на странице курса).
Условное математическое ожидание — главная конструкция современной теории вероятностей и, пожалуй, самая полезная её экспортная технология. Вопрос, на который оно отвечает, — вопрос любого прогноза: какова наилучшая оценка величины \(\xi\), если доступна лишь часть информации? Прогноз завтрашней цены по сегодняшним данным, оценка положения объекта по зашумлённым измерениям (фильтр Калмана), резерв страховщика по текущей истории убытков — всё это условные матожидания. Ключевая идея Колмогорова: информация — это \(\sigma\)-алгебра (набор событий, о которых мы знаем, произошли они или нет), а УМО — проекция величины на доступную информацию. На этой конструкции стоит вся теория мартингалов (курс СП: «мартингал — игра, в которой УМО завтрашнего капитала равно сегодняшнему») и вся теория регрессии (курс статистики).
План — от простого к общему, по Ширяеву [@shiryaev2016probability] (гл. 2, 7) и Кленке [@klenke2020probability] (гл. 8): элементарные условные вероятности \(\to\) УМО относительно разбиения \(\to\) общее определение через Радона–Никодима \(\to\) полный набор свойств \(\to\) геометрия проекции \(\to\) игла Бюффона как демонстрация силы метода.
Элементарные условные конструкции
Напомним конструкции первого курса. Для событий \(A\), \(B\) с \(\mathbb {P}\left(B\right) > 0\) условная вероятность \(\mathbb {P}\left(A \mid B\right) = \frac{\mathbb {P}\left(A \cap B\right)}{\mathbb {P}\left(B\right)}\); отображение \(A \mapsto \mathbb {P}\left(A \mid B\right)\) — полноценная вероятностная мера. Для не более чем счётного разбиения \(\Omega = \bigsqcup_i B_i\) работают формула полной вероятности \(\mathbb {P}\left(A\right) = \sum_i \mathbb {P}\left(A \mid B_i\right)\mathbb {P}\left(B_i\right)\) и формула Байеса
\[
\mathbb {P}\left(B_k \mid A\right) = \frac{\mathbb {P}\left(A \mid B_k\right)\, \mathbb {P}\left(B_k\right)}{\sum _i \mathbb {P}\left(A \mid B_i\right)\, \mathbb {P}\left(B_i\right)}.
\]
На производстве \(2\%\) устройств дефектны. Экспресс-тест обнаруживает дефект с вероятностью \(95\%\), но с вероятностью \(10\%\) даёт ложную тревогу на исправном устройстве. Тест сработал. Какова вероятность, что устройство действительно дефектно? А какова вероятность дефекта, если тест промолчал?
Пусть \(B\) — «дефект», \(A\) — «тест сработал». По формуле Байеса \[
\mathbb {P}\left(B \mid A\right) = \frac{0{,}95 \cdot 0{,}02}{0{,}95 \cdot 0{,}02 + 0{,}1 \cdot 0{,}98} = \frac{19}{117} \approx 16{,}2\% .
\] Итак, после «тревоги» дефект — всё ещё скорее исключение: ложные срабатывания на массивном классе исправных устройств задавили редкий истинный сигнал (та же «байесова ловушка», что и в медицинских тестах). Зато молчание теста почти гарантирует исправность: \[
\mathbb {P}\left(B \mid A^\complement \right) = \frac{0{,}05 \cdot 0{,}02}{0{,}05 \cdot 0{,}02 + 0{,}9 \cdot 0{,}98} = \frac{1}{883} \approx 0{,}11\% .
\] Асимметрия ответов — норма: скрининговые тесты проектируют так, чтобы не пропускать (высокая чувствительность), мирясь с ложными тревогами, которые затем отфильтрует более точный тест.
Теперь — условное матожидание при элементарной информации. Для \(\xi\) с \(\mathbb {E}\left[\left|\xi \right|\right] < \infty\) и события \(A\) с \(\mathbb {P}\left(A\right) > 0\) положим
\[
\mathbb {E}\left[\xi \mid A\right] := \frac{\mathbb {E}\left[\xi \; \mathbb {1}_{A}\right]}{\mathbb {P}\left(A\right)}
\]
— среднее значение \(\xi\) «внутри» события \(A\) (матожидание по мере \(\mathbb {P}\left(\cdot \mid A\right)\)).
Определение 1 Пусть \(D = \left\{ D_1, D_2, \ldots \right\}\) — не более чем счётное разбиение \(\Omega\) на события положительной вероятности. УМО относительно разбиения \(D\) — случайная величина \[
\mathbb {E}\left[\xi \mid D\right](\omega ) = \sum _i \mathbb {E}\left[\xi \mid D_i\right] \cdot \; \mathbb {1}_{D_i}(\omega ).
\]
Прочитайте определение внимательно: УМО — случайная величина, а не число. На каждой ячейке она постоянна и равна среднему значению \(\xi\) по ячейке: мы «размыли» величину до уровня доступной информации.
Интерактивная иллюстрация ещё не создана. См. исходник: /home/nedosh/Documents/online_math_notes/math-notes_FPMI_2/courses/nedosh_courses/courses/04-probability/02_PT/contents/specials/110/01_conditional_step_fig.tex.
Два свойства этой конструкции — ключ ко всему дальнейшему (Кленке, лемма 8.10):
Утверждение 1 Пусть \(\mathcal{G} = \sigma (D)\) — \(\sigma\)-алгебра, порождённая разбиением (объединения ячеек). Тогда:
\(\mathbb {E}\left[\xi \mid D\right]\) измерима относительно \(\mathcal{G}\);
для любого \(A \in \mathcal{G}\) выполнено \(\mathbb {E}\left[\mathbb {E}\left[\xi \mid D\right] \cdot \; \mathbb {1}_{A}\right] = \mathbb {E}\left[\xi \, \; \mathbb {1}_{A}\right]\).
- — функция постоянна на ячейках. (2) — для \(A = \bigsqcup_{j \in J} D_j\) имеем \[
\mathbb {E}\left[\mathbb {E}\left[\xi \mid D\right]\; \mathbb {1}_{A}\right] = \sum _{j \in J} \mathbb {P}\left(D_j\right) \, \mathbb {E}\left[\xi \mid D_j\right] = \sum _{j \in J} \mathbb {E}\left[\xi \; \mathbb {1}_{D_j}\right] = \mathbb {E}\left[\xi \; \mathbb {1}_{A}\right].
\]
Свойство 2 — «на каждом информационном событии средние совпадают». Замечательно, что эти два свойства не упоминают ячеек — и потому переносятся на любую \(\sigma\)-алгебру.
УМО относительно -алгебры
Для непрерывной информации (известно точное значение непрерывной величины \(\eta\)) ячейки \(\left\{ \eta = y\right\}\) имеют нулевую вероятность, и дробь из определения Определение 1 теряет смысл. Выход Колмогорова — определить УМО не формулой, а свойствами, подсмотренными в утверждении Утверждение 1.
Определение 2 Пусть \(\mathbb {E}\left[\left|\xi \right|\right] < \infty\) и \(\mathcal{G} \subseteq \mathcal{F}\) — \(\sigma\)-алгебра. Условным математическим ожиданием \(\mathbb {E}\left[ \xi \mid \mathcal{G} \right]\) называется случайная величина \(\zeta\) такая, что:
\(\zeta\) измерима относительно \(\mathcal{G}\);
для любого \(A \in \mathcal{G}\): \(\mathbb {E}\left[\zeta \, \; \mathbb {1}_{A}\right] = \mathbb {E}\left[\xi \, \; \mathbb {1}_{A}\right]\). Условная вероятность события \(B\): \(\mathbb {P}\left(B \mid \mathcal{G}\right) := \mathbb {E}\left[ \; \mathbb {1}_{B} \mid \mathcal{G} \right]\). УМО относительно случайной величины (или вектора): \(\mathbb {E}\left[ \xi \mid \eta \right] := \mathbb {E}\left[ \xi \mid \sigma (\eta ) \right]\).
Теорема 1 (существование и единственность) УМО существует и единственно с точностью до равенства почти наверное.
Единственность. Пусть \(\zeta\) и \(\zeta '\) удовлетворяют обоим условиям. Событие \(A = \left\{ \zeta > \zeta '\right\}\) лежит в \(\mathcal{G}\), и по условию 2
\[
\mathbb {E}\left[(\zeta - \zeta ')\, \; \mathbb {1}_{A}\right] = \mathbb {E}\left[\xi \; \mathbb {1}_{A}\right] - \mathbb {E}\left[\xi \; \mathbb {1}_{A}\right] = 0.
\]
Под матожиданием стоит неотрицательная величина, значит, \(\mathbb {P}\left(A\right) = 0\); симметрично \(\mathbb {P}\left(\zeta < \zeta '\right) = 0\).
Существование. Пусть сначала \(\xi \geq 0\). Функция множеств
\[
Q(A) = \mathbb {E}\left[\xi \, \; \mathbb {1}_{A}\right], \qquad A \in \mathcal{G},
\]
— конечная мера на \((\Omega , \mathcal{G})\), абсолютно непрерывная относительно \(\mathbb {P}\) (сужённой на \(\mathcal{G}\)): из \(\mathbb {P}\left(A\right) = 0\) следует \(Q(A) = 0\). По теореме Радона–Никодима (ОВиТМ) существует \(\mathcal{G}\)-измеримая плотность
\[
\mathbb {E}\left[ \xi \mid \mathcal{G} \right] := \frac{dQ}{d\mathbb {P}}\bigg|_{\mathcal{G}},
\]
и определяющее свойство 2 — это в точности \(Q(A) = \int_A \frac{dQ}{d\mathbb {P}}\, d\mathbb {P}\). Общий случай — разность \(\xi = \xi^+ - \xi^-\).
Итак, УМО — производная Радона–Никодима: весь аппарат теории меры, построенный в ОВиТМ «про запас», выстрелил именно здесь. Два замечания к определению:
Свойства
Утверждение 2 (свойства УМО) Пусть \(\xi , \eta\) интегрируемы, \(\mathcal{G}, \mathcal{G}_1, \mathcal{G}_2 \subseteq \mathcal{F}\) — \(\sigma\)-алгебры. Все равенства — п.н.
(линейность) \(\mathbb {E}\left[ a\xi + b\eta \mid \mathcal{G} \right] = a\mathbb {E}\left[ \xi \mid \mathcal{G} \right] + b\mathbb {E}\left[ \eta \mid \mathcal{G} \right]\); (монотонность) \(\xi \leq \eta \Rightarrow \mathbb {E}\left[ \xi \mid \mathcal{G} \right] \leq \mathbb {E}\left[ \eta \mid \mathcal{G} \right]\);
(неравенство треугольника) \(\left|\mathbb {E}\left[ \xi \mid \mathcal{G} \right]\right| \leq \mathbb {E}\left[ \left|\xi \right| \mid \mathcal{G} \right]\);
(крайние случаи) \(\mathbb {E}\left[ \xi \mid \left\{ \varnothing , \Omega \right\} \right] = \mathbb {E}\left[\xi \right]\); \(\mathbb {E}\left[ \xi \mid \mathcal{F} \right] = \xi\); вообще, если \(\mathbb {P}\left(A\right) \in \left\{ 0,1\right\}\) для всех \(A \in \mathcal{G}\), то \(\mathbb {E}\left[ \xi \mid \mathcal{G} \right] = \mathbb {E}\left[\xi \right]\);
(полное усреднение) \(\mathbb {E}\left[\mathbb {E}\left[ \xi \mid \mathcal{G} \right]\right] = \mathbb {E}\left[\xi \right]\);
(телескопичность, tower property) если \(\mathcal{G}_1 \subseteq \mathcal{G}_2\), то
\[
\mathbb {E}\left[ \mathbb {E}\left[\xi \right][\mathcal{G}_2] \mid \mathcal{G}_1 \right] = \mathbb {E}\left[ \mathbb {E}\left[\xi \right][\mathcal{G}_1] \mid \mathcal{G}_2 \right] = \mathbb {E}\left[ \xi \mid \mathcal{G}_1 \right]
\]
(«выживает меньшая информация» — в обоих порядках усреднения);
(вынос известного) если \(\eta\) измерима относительно \(\mathcal{G}\) и \(\xi \eta\) интегрируема, то \(\mathbb {E}\left[ \xi \eta \mid \mathcal{G} \right] = \eta \, \mathbb {E}\left[ \xi \mid \mathcal{G} \right]\);
(независимость) если \(\sigma (\xi )\) и \(\mathcal{G}\) независимы, то \(\mathbb {E}\left[ \xi \mid \mathcal{G} \right] = \mathbb {E}\left[\xi \right]\).
Доказательства (Ширяев, свойства A–K; Кленке, теорема 8.14) устроены по одному шаблону: правая часть очевидно \(\mathcal{G}\)-измерима, и остаётся проверить определяющее равенство \(\mathbb {E}\left[\cdot \, \; \mathbb {1}_{A}\right] = \mathbb {E}\left[\xi \eta \, \; \mathbb {1}_{A}\right]\) на \(A \in \mathcal{G}\) — затем сослаться на единственность. Например, вынос известного: для \(\eta = \; \mathbb {1}_{B}\), \(B \in \mathcal{G}\), равенство \(\mathbb {E}\left[\; \mathbb {1}_{B}\, \mathbb {E}\left[ \xi \mid \mathcal{G} \right]\, \; \mathbb {1}_{A}\right] = \mathbb {E}\left[\xi \; \mathbb {1}_{B}\; \mathbb {1}_{A}\right]\) — это определяющее свойство на событии \(A \cap B \in \mathcal{G}\); дальше линейность (простые \(\eta\)) и предельный переход по монотонности. Телескопичность разберём в задачах. Свойства 4–6 — ежедневный рабочий набор; выучите их до автоматизма: весь курс СП — виртуозное жонглирование ими.
Следующая группа свойств — «анализ» условных ожиданий: предельные переходы и неравенства.
Теорема 2 (о предельных переходах под знаком УМО) Пусть \(\xi_n \to \xi\) п.н.
(условная монотонная сходимость) если \(0 \leq \xi_n \uparrow \xi\) и \(\xi\) интегрируема, то \(\mathbb {E}\left[ \xi_n \mid \mathcal{G} \right] \uparrow \mathbb {E}\left[ \xi \mid \mathcal{G} \right]\);
(условная лемма Фату) если \(\xi_n \geq 0\), то \(\mathbb {E}\left[ \liminf_n \xi_n \mid \mathcal{G} \right] \leq \liminf_n \mathbb {E}\left[ \xi_n \mid \mathcal{G} \right]\);
(условная мажорируемая сходимость) если \(\left|\xi_n\right| \leq \eta\) п.н.с интегрируемой \(\eta\), то
\[
\mathbb {E}\left[ \xi _n \mid \mathcal{G} \right] \xrightarrow [n \to \infty ]{} \mathbb {E}\left[ \xi \mid \mathcal{G} \right] \quad \text{п.н.\ и в } L^1.
\]
Теорема 3 (условное неравенство Йенсена) Пусть \(g\) выпукла на интервале \(I\), \(\xi\) принимает значения в \(I\) и интегрируема. Тогда \[
g\left(\mathbb {E}\left[ \xi \mid \mathcal{G} \right]\right) \leq \mathbb {E}\left[ g(\xi ) \mid \mathcal{G} \right] \quad \text{п.н.}
\]
Следствие 1 (сжатие в \(L^p\)) Для \(p \geq 1\) оператор \(\xi \mapsto \mathbb {E}\left[ \xi \mid \mathcal{G} \right]\) — сжатие \(L^p \to L^p\): \(\left\| \mathbb {E}\left[ \xi \mid \mathcal{G} \right]\right\|_{p} \leq \left\| \xi \right\|_{p}\). В частности, он непрерывен: из \(\xi_n \xrightarrow {L^p} \xi\) следует \(\mathbb {E}\left[ \xi_n \mid \mathcal{G} \right] \xrightarrow {L^p} \mathbb {E}\left[ \xi \mid \mathcal{G} \right]\).
(Йенсен с \(g(x) = \left|x\right|^p\) плюс полное усреднение.) Ещё одно следствие Йенсена пригодится в мартингальной теории: для интегрируемой \(\xi\) семейство \(\left\{ \mathbb {E}\left[ \xi \mid \mathcal{G} \right] \colon \mathcal{G} \subseteq \mathcal{F}\right\}\) по всем под-\(\sigma\)-алгебрам равномерно интегрируемо (Кленке, следствие 8.22) — усреднение не может «разогнать» хвосты.
УМО как проекция
Теорема 4 (наилучший прогноз) Пусть \(\mathbb {E}\left[\xi^2\right] < \infty\). Тогда для любой \(\mathcal{G}\)-измеримой \(Z\) с \(\mathbb {E}\left[Z^2\right] < \infty\) \[
\mathbb {E}\left[\left(\xi - \mathbb {E}\left[ \xi \mid \mathcal{G} \right]\right)^2\right] \leq \mathbb {E}\left[(\xi - Z)^2\right],
\] т.е.\(\mathbb {E}\left[ \xi \mid \mathcal{G} \right]\) — ортогональная проекция \(\xi\) на подпространство \(L^2(\mathcal{G}) \subseteq L^2(\mathcal{F})\): наилучшее среднеквадратичное приближение \(\xi\) величинами, вычислимыми по доступной информации.
Интерактивная иллюстрация ещё не создана. См. исходник: /home/nedosh/Documents/online_math_notes/math-notes_FPMI_2/courses/nedosh_courses/courses/04-probability/02_PT/contents/specials/110/02_projection_fig.tex.
Геометрическая точка зрения — самая продуктивная: \(L^2\) — гильбертово пространство (ОВиТМ), УМО — оператор проекции, ошибка прогноза \(\xi - \mathbb {E}\left[ \xi \mid \mathcal{G} \right]\) ортогональна всему, что мы знаем. Интуиция свойств из этой картинки бесплатна: телескопичность — «проекция на меньшее подпространство поглощает проекцию на большее»; сжатие — «проекция не удлиняет вектор»; независимость — «перпендикулярную информацию проекция игнорирует». Машинное обучение в терминах этой теоремы: обучение регрессии — попытка приблизить проекцию \(\mathbb {E}\left[ \xi \mid \eta \right]\) по конечной выборке; она — теоретический потолок качества любого алгоритма.
Пример: игла Бюффона
Закончим теорию демонстрацией силы схемы «обусловься — усредни» на задаче, с которой в 1777 году началась геометрическая вероятность.
На плоскость, разлинованную параллельными прямыми на единичном расстоянии, «наудачу» бросают иглу единичной длины. Какова вероятность, что игла пересечёт какую-нибудь прямую?
Формализуем «наудачу»: пусть \(\xi\) — расстояние от середины иглы до левой прямой, \(\theta\) — угол иглы к направлению прямых; считаем \(\xi \sim \operatorname {U}[0,1]\), \(\theta \sim \operatorname {U}\left[-\frac{\pi }{2}, \frac{\pi }{2}\right]\) независимыми. Игла пересекает прямую, когда проекция полудлины на перпендикуляр накрывает расстояние до прямой: \[
A = \left\{ \xi \leq \tfrac 12\cos \theta \right\} \cup \left\{ \xi \geq 1 - \tfrac 12\cos \theta \right\} .
\] Обусловимся по углу (полное усреднение + независимость: при известном \(\theta = a\) величина \(\xi\) остаётся равномерной): \[
\mathbb {P}\left(A\right) = \mathbb {E}\left[\mathbb {P}\left(A \mid \theta \right)\right] = \frac{1}{\pi }\int _{-\pi /2}^{\pi /2} \mathbb {P}\left(\xi \in \left[0, \tfrac 12\cos a\right] \cup \left[1 - \tfrac 12\cos a, 1\right]\right)\, da = \frac{1}{\pi }\int _{-\pi /2}^{\pi /2} \cos a \, da = \frac{2}{\pi }.
\] Ответ \(\frac{2}{\pi } \approx 0{,}637\) примечателен дважды. Во-первых, методологически: двумерная геометрическая задача распалась на семейство одномерных — фиксируем угол, считаем элементарную вероятность, усредняем по углу; так работает вся вычислительная машинерия условных конструкций. Во-вторых, исторически: бросая иглу \(n\) раз и считая частоту пересечений, можно статистически измерить \(\pi\) — эксперимент Бюффона был первым методом Монте-Карло в истории, за два века до появления термина.
Интерактивная иллюстрация ещё не создана. См. исходник: /home/nedosh/Documents/online_math_notes/math-notes_FPMI_2/courses/nedosh_courses/courses/04-probability/02_PT/contents/specials/110/03_buffon_fig.tex.
Задачи
Бросаются два правильных кубика; \(\eta\) — очки на первом, \(\xi\) — сумма очков. Найдите \(\mathbb {E}\left[ \xi \mid \eta \right]\) и \(\mathbb {E}\left[ \eta \mid \xi \right]\). Убедитесь, что это разные случайные величины, и проверьте для обеих свойство полного усреднения.
(Отсутствие памяти.) Время работы прибора \(\eta\) имеет плотность \(f_\eta\); известно, что прибор уже проработал время \(a\).
Выпишите общую формулу для среднего остаточного времени работы \(\mathbb {E}\left[\eta - a \mid \eta \geq a\right]\).
Вычислите её для \(\eta \sim \operatorname {Exp}(\lambda )\) и покажите, что условное распределение остатка \(\mathbb {P}\left(\eta - a \leq x \mid \eta \geq a\right)\) совпадает с безусловным распределением \(\eta\).
Докажите обратное: если \(\mathbb {P}\left(\eta > t + s \mid \eta > s\right) = \mathbb {P}\left(\eta > t\right)\) для всех \(s, t \geq 0\), то \(\eta\) экспоненциальна.
Докажите свойство телескопичности: если \(\mathcal{G}_1 \subseteq \mathcal{G}_2\), то \(\mathbb {E}\left[ \mathbb {E}\left[\xi \right][\mathcal{G}_2] \mid \mathcal{G}_1 \right] = \mathbb {E}\left[ \xi \mid \mathcal{G}_1 \right]\) и \(\mathbb {E}\left[ \mathbb {E}\left[\xi \right][\mathcal{G}_1] \mid \mathcal{G}_2 \right] = \mathbb {E}\left[ \xi \mid \mathcal{G}_1 \right]\).
Пусть \(\xi_1, \ldots , \xi_n\) независимы, одинаково распределены и интегрируемы, \(S_k = \xi_1 + \ldots + \xi_k\).
Найдите \(\mathbb {E}\left[ \xi_1 \mid S_n \right]\).
Пусть \(\mathbb {E}\left[\xi_i\right] = 0\) и \(m \leq n\). Покажите, что \(\mathbb {E}\left[ S_n \mid \xi_1, \ldots , \xi_m \right] = S_m\) и \(\mathbb {E}\left[ S_n \mid S_m \right] = S_m\).
Докажите теорему Теорема 4 о наилучшем прогнозе.
(Условное неравенство Коши–Буняковского–Шварца.) Докажите: для \(\xi , \eta \in L^2\) \[
\left(\mathbb {E}\left[ \xi \eta \mid \mathcal{G} \right]\right)^2 \leq \mathbb {E}\left[ \xi ^2 \mid \mathcal{G} \right] \cdot \mathbb {E}\left[ \eta ^2 \mid \mathcal{G} \right] \quad \text{п.н.}
\]
Проекции не коммутируют
Постройте пример, в котором \(\mathbb {E}\left[ \mathbb {E}\left[\xi \right][\mathcal{G}_1] \mid \mathcal{G}_2 \right] \neq \mathbb {E}\left[ \mathbb {E}\left[\xi \right][\mathcal{G}_2] \mid \mathcal{G}_1 \right]\).
(Формула Вальда.) Страховая компания за год получает случайное число исков \(N\), независимое от их размеров; размеры \(\xi_1, \xi_2, \ldots\) независимы, одинаково распределены, \(\mathbb {E}\left[\xi_1\right] = m\). Для суммарного убытка \(S = \xi_1 + \ldots + \xi_N\) (при \(N = 0\) сумма пуста) докажите \(\mathbb {E}\left[S\right] = m\, \mathbb {E}\left[N\right]\).