Этот конспект ещё находится в процессе редактуры: в тексте могут встречаться опечатки, неточности и локально не проработанные места. Если что-то нашли — сообщите, пожалуйста, автору (контакты на странице курса).
В курсе ОВиТМ мы построили теорию меры: научились продолжать меры с полуколец на \(\sigma\)-алгебры, строить меру Лебега и Лебега–Стилтьеса, интегрировать измеримые функции. Перейдем к получению практических результатов, переведём всю элементарную теорию вероятностей на язык теории меры.
Зачем вероятности теория меры
Три причины
Казалось бы: вероятности успешно считали и до Колмогорова — Паскаль, Бернулли, Лаплас обходились без \(\sigma\)-алгебр. Зачем нам сложный язык? Есть три фундаментальные причины.
Причина 1: непрерывные величины. Пусть \(\xi\) — координата случайной точки на отрезке \([0,1]\). Для любой точки \(x\) разумно положить \(\mathbb {P}\left(\xi = x\right) = 0\). Но тогда «вероятность попасть в множество \(B\)» невозможно собрать из вероятностей отдельных точек: сумма нулей даёт ноль, а \(\mathbb {P}\left(\xi \in [0,1]\right) = 1\). Вероятность в непрерывном мире — это принципиально не сумма по точкам, а мера множества. Без теории меры мы даже не можем сказать, каким множествам \(B\) вообще разрешено приписывать вероятность (вспомните неизмеримое множество Витали из ОВиТМ: существуют множества, которым нельзя приписать вероятность, не разрушив аксиомы).
Причина 2: бесконечные последовательности экспериментов. Все главные теоремы этого курса — законы больших чисел, лемма Бореля–Кантелли, центральная предельная теорема — это утверждения о бесконечных последовательностях случайных величин. Например, усиленный закон больших чисел утверждает:
\[
\mathbb {P}\left(\frac{\xi _1 + \ldots + \xi _n}{n} \xrightarrow [n \to \infty ]{} \mathbb {E}\left[\xi _1\right]\right) = 1.
\]
Событие под вероятностью — это событие о всей бесконечной траектории \((\xi_1, \xi_2, \ldots )\); его нельзя выразить через конечное число экспериментов. Чтобы такие события имели вероятность, нужна \(\sigma\)-алгебра (счётные операции над событиями!) и счётная аддитивность меры.
Причина 3: единый язык. В элементарной теории вероятностей дискретный и непрерывный случаи — две разные теории: в одной суммы, в другой интегралы; в одной таблицы распределения, в другой плотности; каждое утверждение доказывается дважды. Теория меры склеивает их в одну теорию: всё — интеграл Лебега, а суммы и интегралы Римана — его частные случаи. Более того, дальше появятся распределения, которые не являются ни дискретными, ни непрерывными, и это не экзотика: их поставляет, например, страхование (см.пример со страховой выплатой в конце темы) — а у элементарной теории для них вообще нет инструментов.
Словарь
Аксиоматика Колмогорова (1933) — это, по существу, словарь перевода: вероятностные понятия определяются как понятия теории меры. Этим словарём мы будем пользоваться весь семестр:
Словарь: теория меры \(\leftrightarrow\) теория вероятностей
| Измеримое пространство\((\Omega , \mathcal{F})\) |
Исходы и события |
| Мера\(\mu\) с\(\mu (\Omega ) = 1\) |
Вероятность\(\mathbb {P}\) |
| Измеримое множество\(A \in \mathcal{F}\) |
Событие |
| Измеримая функция\(\xi \colon \Omega \to \mathbb {R}\) |
Случайная величина |
| Образ меры\(\mathbb {P} \circ \xi ^{-1}\) |
Распределение\(\mathbb {P}_\xi\) |
| Интеграл Лебега\(\int _\Omega \xi \, d\mathbb {P}\) |
Матожидание\(\mathbb {E}\left[\xi \right]\) |
| Почти всюду |
Почти наверное (п.н.) |
| Сходимость по мере |
Сходимость по вероятности |
| \(L^p(\Omega , \mathcal{F}, \mathbb {P})\) |
Величины с конечным\(p\)-м моментом |
| Производная Радона–Никодима |
Плотность (правдоподобие) |
| Теорема Фубини |
Независимость, свёртка |
Правая колонка — не просто переименования. Как говорят, «теория вероятностей — это теория меры с душой»: у вероятностных понятий есть содержательные интерпретации (частоты, прогнозы, риски), и есть собственные концепции, которых в теории меры нет, — прежде всего независимость и условные конструкции. Именно они превращают теорию меры в работающий инструмент: страховые компании считают резервы как матожидания, финансовая математика строит цены производных инструментов через смену меры (та самая производная Радона–Никодима), статистика и машинное обучение максимизируют правдоподобие — плотность в смысле Радона–Никодима. Всё это — словарь выше, применённый всерьёз.
Вероятностное пространство
Определение 1 Вероятностное пространство — это тройка \((\Omega , \mathcal{F}, \mathbb {P})\), где
\(\Omega\) — непустое множество (пространство элементарных исходов);
\(\mathcal{F}\) — \(\sigma\)-алгебра подмножеств \(\Omega\) (её элементы — события);
\(\mathbb {P}\colon \mathcal{F} \to [0,1]\) — мера с \(\mathbb {P}(\Omega ) = 1\) (вероятность).
Все свойства вероятности — это свойства конечной меры, доказанные в ОВиТМ. Соберём их в одном месте.
Утверждение 1 (эквивалентные условия вероятности) Пусть \(\mathbb {P}\) — неотрицательная невырожденная аддитивная функция на кольце (в частности, на сигма-алгебре). Тогда следующие условия эквивалентны:
…
(счётная субаддитивность) \(\mathbb {P}\left(\bigcup_{n} A_n\right) \leq \sum_{n} \mathbb {P}\left(A_n\right)\);
(непрерывность снизу) если \(A_n \uparrow A\) (т.е.\(A_1 \subseteq A_2 \subseteq \ldots\) и \(A = \bigcup_n A_n\)), то \(\mathbb {P}\left(A_n\right) \uparrow \mathbb {P}\left(A\right)\);
(непрерывность в нуле)
(непрерывность сверху) если \(A_n \downarrow A\), то \(\mathbb {P}\left(A_n\right) \downarrow \mathbb {P}\left(A\right)\);
Утверждение 2 (свойства вероятности) Пусть \(A, B, A_1, A_2, \ldots \in \mathcal{F}\). Тогда:
\(\mathbb {P}\left(A^\complement \right) = 1 - \mathbb {P}\left(A\right)\); если \(A \subseteq B\), то \(\mathbb {P}\left(A\right) \leq \mathbb {P}\left(B\right)\);
(формула включений–исключений)
\[
\mathbb {P}\left(\bigcup _{i=1}^n A_i\right) = \sum _i \mathbb {P}\left(A_i\right) - \sum _{i<j} \mathbb {P}\left(A_i \cap A_j\right) + \ldots + (-1)^{n-1}\mathbb {P}\left(A_1 \cap \ldots \cap A_n\right).
\]
…
Главный поставщик нетривиальных вероятностных пространств — теорема Каратеодори. Разберём важнейший пример: бесконечную последовательность бросаний монеты.
(Бесконечная схема Бернулли.) Постройте вероятностное пространство, на котором определена бесконечная последовательность независимых бросаний монеты с вероятностью успеха \(p\).
Возьмём \(\Omega = \left\{ 0,1\right\}^\infty = \left\{ \omega = (\omega_1, \omega_2, \ldots ) \colon \omega_i \in \left\{ 0,1\right\} \right\}\) — пространство всех бесконечных двоичных последовательностей. Элементарный исход — вся бесконечная траектория эксперимента.
Далее нужна \(\sigma\)-алгебра. Естественные «наблюдаемые» события — цилиндры: события, зависящие лишь от конечного числа координат,
\[
C_{a_1 \ldots a_n} = \left\{ \omega \colon \omega _1 = a_1, \ldots , \omega _n = a_n\right\} , \qquad a_i \in \left\{ 0,1\right\} .
\]
Конечные объединения цилиндров образуют алгебру \(\mathcal{A}\); положим \(\mathcal{F} = \sigma (\mathcal{A})\).
На цилиндрах вероятность диктуется независимостью бросаний:
\[
\mathbb {P}\left(C_{a_1 \ldots a_n}\right) = p^{\sum _i a_i}(1-p)^{n - \sum _i a_i}.
\]
Это задаёт конечно-аддитивную функцию на алгебре \(\mathcal{A}\); её счётная аддитивность на \(\mathcal{A}\) — отдельная лемма (использующая компактность), после чего теорема Каратеодори продолжает \(\mathbb {P}\) на \(\mathcal{F} = \sigma (\mathcal{A})\), причём единственным образом.
Обратите внимание: содержательные события — например,
\[
A = \left\{ \text{доля успехов в первых } n \text{ бросаниях сходится к } p \text{ при } n \to \infty \right\}
\]
— не цилиндры, они зависят от всей бесконечной траектории. Но они получаются из цилиндров счётными операциями, поэтому лежат в \(\mathcal{F}\), и у них есть вероятность. Утверждение \(\mathbb {P}\left(A\right) = 1\) — это усиленный закон больших чисел (тема 6). Вся конструкция — ровно для того, чтобы такой вопрос вообще имел смысл.
Рассмотрим бесконечную схему Бернулли с \(p = \frac{1}{2}\). Пусть \(T(\omega ) = \min \left\{ n \colon \omega_n = 1\right\}\) — номер первого успеха (и \(T = \infty\), если успехов нет). Найдите \(\mathbb {P}\left(T \text{ чётно}\right)\) и \(\mathbb {P}\left(T = \infty \right)\). Каким счётным операциям над цилиндрами соответствуют эти события?
Пусть \(A_1, A_2, \ldots\) — события, причём \(\mathbb {P}\left(A_n\right) = 1\) для всех \(n\). Докажите, что \(\mathbb {P}\left(\bigcap_{n=1}^\infty A_n\right) = 1\). Верно ли аналогичное утверждение для несчётного семейства событий единичной вероятности?
Независимость
Независимость — первое понятие, которого в теории меры нет: это вклад собственно теории вероятностей. Напомним элементарное определение и сразу поднимем его на нужный уровень общности.
Определение 2 События \(A_1, \ldots , A_n\) независимы в совокупности, если для любого набора индексов \(i_1 < \ldots < i_k\) \[
\mathbb {P}\left(A_{i_1} \cap \ldots \cap A_{i_k}\right) = \mathbb {P}\left(A_{i_1}\right) \cdots \mathbb {P}\left(A_{i_k}\right).
\] Системы событий \(\mathcal{M}_1, \ldots , \mathcal{M}_n \subseteq \mathcal{F}\) независимы, если независимы любые \(A_1 \in \mathcal{M}_1, \ldots , A_n \in \mathcal{M}_n\). Случайные величины \(\xi_1, \ldots , \xi_n\) независимы, если независимы порождённые ими \(\sigma\)-алгебры \(\sigma (\xi_1), \ldots , \sigma (\xi_n)\), где \(\sigma (\xi ) = \left\{ \left\{ \xi \in B\right\} \colon B \in \mathscr {B}\left(\mathbb {R}\right)\right\}\).
Определение независимости величин требует проверить факторизацию для всех борелевских множеств — это необозримо много. Рабочий инструмент, сокращающий проверку до обозримого набора, — \(\pi\)-системы.
Определение 3 Система множеств \(\mathcal{M}\) называется \(\pi\)-системой, если она замкнута относительно конечных пересечений: \(A, B \in \mathcal{M} \Rightarrow A \cap B \in \mathcal{M}\).
Теорема 1 (критерий независимости через \(\pi\)-системы) Пусть \(\mathcal{M}_1, \ldots , \mathcal{M}_n\) — независимые \(\pi\)-системы. Тогда \(\sigma\)-алгебры \(\sigma (\mathcal{M}_1), \ldots , \sigma (\mathcal{M}_n)\) также независимы.
Доказательство — лемма Дынкина о \(\pi\)-\(\lambda\)-системах (она же — теорема о монотонных классах из ОВиТМ; см.также [@shiryaev2016probability], гл. 2, 2): при фиксированных событиях из остальных систем совокупность множеств, для которых выполнена факторизация, образует \(\lambda\)-систему, содержащую \(\pi\)-систему \(\mathcal{M}_i\), а значит — и \(\sigma (\mathcal{M}_i)\).
Главное следствие: проверять независимость величин достаточно на лучах \(\left\{ \xi \leq x\right\}\) — они образуют \(\pi\)-систему, порождающую \(\sigma (\xi )\).
Следствие 1 Случайные величины \(\xi_1, \ldots , \xi_n\) независимы тогда и только тогда, когда для всех \(x_1, \ldots , x_n \in \mathbb {R}\) \[
\mathbb {P}\left(\xi _1 \leq x_1, \ldots , \xi _n \leq x_n\right) = \prod _{i=1}^n \mathbb {P}\left(\xi _i \leq x_i\right).
\]
Следствие 2 Если \(\xi_1, \ldots , \xi_n\) независимы и \(f_1, \ldots , f_n\colon \mathbb {R} \to \mathbb {R}\) борелевские, то \(f_1(\xi_1), \ldots , f_n(\xi_n)\) независимы. Более общо: борелевские функции от непересекающихся групп независимых величин независимы (например, при независимых \(\xi_1, \ldots , \xi_4\) независимы \(\xi_1 + \xi_2\) и \(\xi_3 \xi_4\)).
Прикладной смысл: независимость — это модельное предположение, которое мы постоянно навешиваем на реальность (независимые клиенты страховой компании, независимые измерения в эксперименте, независимые запросы к серверу). Теорема Теорема 1 делает это предположение пригодным к работе: достаточно контролировать факторизацию на простых событиях, а на все остальные она распространяется автоматически. На этой же теореме держится метод Монте-Карло: генератор выдаёт независимые \(\operatorname {U}[0,1]\)-величины, а всё, что мы строим из них функциями (следствие Следствие 2), остаётся независимым.
Правильный тетраэдр: три грани покрашены соответственно в красный, синий и зелёный цвета, а четвёртая — во все три цвета сразу. Тетраэдр бросают; \(A_{\text{к}}\), \(A_{\text{с}}\), \(A_{\text{з}}\) — события «на выпавшей грани есть красный (соответственно синий, зелёный) цвет». Докажите, что эти события попарно независимы, но зависимы в совокупности.
Пусть \(A_{1}, \ldots , A_{n}\) — независимые события. Докажите, что события \[
A_1^\complement , \ldots , A_k^\complement , A_{k+1}, \ldots , A_{n}
\] независимы при любом \(k \leq n\). Выведите отсюда формулу \[
\mathbb {P}\left(\bigcup _{i=1}^{n} A_{i}\right) = 1 - \prod _{i=1}^{n} \left(1 - \mathbb {P}\left(A_i\right)\right).
\]
Дано множество \(S\) из \(n\) элементов. Из него случайно и независимо выбираются три подмножества \(A, B, C\): каждый элемент \(S\) независимо от остальных с вероятностью \(p\) включается в подмножество и с вероятностью \(1-p\) — нет (процесс повторяется трижды: для \(A\), для \(B\) и для \(C\)). Найдите вероятность события \[
D=\left\{ A \cap B \subseteq C \subseteq A \cup B\right\} .
\]
Случайные величины и их распределения
Определение 4 Случайная величина на \((\Omega , \mathcal{F}, \mathbb {P})\) — это измеримая функция \(\xi \colon \Omega \to \mathbb {R}\), т.е.такая, что \(\left\{ \xi \in B\right\} := \xi^{-1}(B) \in \mathcal{F}\) для любого \(B \in \mathscr {B}\left(\mathbb {R}\right)\).
Измеримость — не техническая формальность: это требование, чтобы у вопроса «какова вероятность, что \(\xi\) попадёт в \(B\)?» был ответ. Вся теория измеримых функций из ОВиТМ теперь работает бесплатно: суммы, произведения, поточечные пределы случайных величин — снова случайные величины.
Определение 5 Распределение случайной величины \(\xi\) — это образ меры \(\mathbb {P}\) при отображении \(\xi\): \[
\mathbb {P}_\xi (B) = \mathbb {P}\left(\xi \in B\right), \qquad B \in \mathscr {B}\left(\mathbb {R}\right).
\] Это вероятностная мера на \((\mathbb {R}, \mathscr {B}\left(\mathbb {R}\right))\). Функция распределения (ФР) — это \(F_\xi (x) = \mathbb {P}\left(\xi \leq x\right)\).
Здесь происходит важная смена точки зрения, на которой построена вся практическая работа с вероятностями. Пространство \((\Omega , \mathcal{F}, \mathbb {P})\) — «закулисье»: оно моделирует источник случайности, и его устройство обычно неизвестно, да и не важно. Распределение \(\mathbb {P}_\xi\) — то, что «на сцене»: мера на числовой прямой, с которой мы реально вычисляем. Весь смысл понятия распределения — перенести вычисления с абстрактного \(\Omega\) на \(\mathbb {R}\), где у нас есть анализ: ФР, плотности, интегралы. Утверждение, делающее эту точку зрения законной, доказано в ОВиТМ:
Теорема 2 (о соответствии) Формула \(F(x) = \mathbb {P}_\xi \left((-\infty , x]\right)\) устанавливает биекцию между вероятностными мерами на \((\mathbb {R}, \mathscr {B}\left(\mathbb {R}\right))\) и функциями \(F\colon \mathbb {R} \to [0,1]\), которые не убывают, непрерывны справа и имеют пределы \(F(-\infty ) = 0\), \(F(+\infty ) = 1\); мера восстанавливается по \(F\) как мера Лебега–Стилтьеса (Ширяев [@shiryaev2016probability], гл. 2, 3).
Таким образом, ФР — полный паспорт распределения: два распределения совпадают тогда и только тогда, когда совпадают их ФР. (Почему? Снова \(\pi\)-системы: лучи \((-\infty , x]\) — \(\pi\)-система, порождающая \(\mathscr {B}\left(\mathbb {R}\right)\), и две меры, совпавшие на ней, совпадают на всей \(\sigma\)-алгебре.)
Приведите пример распределения, которое не является ни дискретным, ни абсолютно непрерывным.
Случайная величина \(\xi\) принимает значения в интервале \((a, b)\), \(-\infty \leq a<b \leq \infty\), и имеет плотность \(p_{\xi }(x)\). Функция \(\varphi\) строго монотонна и непрерывно дифференцируема на \((a, b)\). Докажите формулу для плотности случайной величины \(\eta =\varphi (\xi )\): \[
p_\eta (y) = p_\xi \left(\varphi ^{-1}(y)\right) \cdot \left|\left(\varphi ^{-1}\right)'(y)\right|, \qquad y \in \varphi \left((a,b)\right).
\]
Стрелок, стоящий в начале координат, стреляет в прямую \(x = 1\) под случайным углом \(\eta \sim \operatorname {U}\left[-\frac{\pi }{2}, \frac{\pi }{2}\right]\) к оси абсцисс. Докажите, что ордината \(\xi\) точки попадания имеет стандартное распределение Коши, т.е. плотность \(p_\xi (x) = \frac{1}{\pi (1+x^2)}\).
Математическое ожидание
Определение 6 Математическое ожидание случайной величины \(\xi\) — это её интеграл Лебега по вероятностной мере: \[
\mathbb {E}\left[\xi \right] = \int _\Omega \xi (\omega ) \, \mathbb {P}(d\omega ),
\] определённый, когда \(\mathbb {E}\left[\left|\xi \right|\right] < \infty\) (а для неотрицательных \(\xi\) — всегда, со значением в \([0, +\infty ]\)).
Конструкция интеграла — из ОВиТМ, в три шага: индикаторы и простые функции \(\to\) неотрицательные функции (супремум по простым снизу) \(\to\) общий случай через \(\xi = \xi^+ - \xi^-\). Из неё наследуются все свойства интеграла Лебега: линейность, монотонность и — главное для этого курса — предельные теоремы:
Утверждение 3 (предельные теоремы для матожидания) Пусть \(\xi_n \to \xi\) п.н. Тогда:
(о монотонной сходимости) если \(0 \leq \xi_n \uparrow \xi\) п.н., то \(\mathbb {E}\left[\xi_n\right] \uparrow \mathbb {E}\left[\xi \right]\);
(лемма Фату) если \(\xi_n \geq 0\), то \(\mathbb {E}\left[\liminf_n \xi_n\right] \leq \liminf_n \mathbb {E}\left[\xi_n\right]\);
(о мажорируемой сходимости) если \(\left|\xi_n\right| \leq \eta\) п.н.и \(\mathbb {E}\left[\eta \right] < \infty\), то \(\mathbb {E}\left[\xi_n\right] \to \mathbb {E}\left[\xi \right]\).
Вопрос «когда можно переставлять предел и матожидание» — не схоластика: на нём держатся сходимость моментов (тема 4), корректность определения характеристических функций (тема 8) и добрая половина доказательств предельных теорем. Считать же матожидания «по определению», интегрируя по абстрактному \(\Omega\), невозможно — и не нужно: следующая теорема переносит вычисления на \(\mathbb {R}\).
Теорема 3 (о замене переменной) Пусть \(\xi\) — случайная величина, \(g\colon \mathbb {R} \to \mathbb {R}\) — борелевская функция. Тогда \[
\mathbb {E}\left[g(\xi )\right] = \int _\Omega g\left(\xi (\omega )\right) \, \mathbb {P}(d\omega ) = \int _{\mathbb {R}} g(x) \, \mathbb {P}_\xi (dx)
\] в том смысле, что если один из интегралов определён, то определён и другой, и они равны (Ширяев [@shiryaev2016probability], гл. 2, 6).
Доказательство — «стандартная машина» теории меры, которую стоит освоить как самостоятельный приём: равенство очевидно для \(g = \; \mathbb {1}_{B}\) (обе части равны \(\mathbb {P}_\xi (B)\)), по линейности распространяется на простые \(g\), по теореме о монотонной сходимости — на неотрицательные, и через \(g = g^+ - g^-\) — на произвольные.
В англоязычной литературе теорему Теорема 3 в шутку называют law of the unconscious statistician — «закон бессознательного статистика»: применяющий её обычно даже не осознаёт, что переходит от интеграла по \(\Omega\) к интегралу по \(\mathbb {R}\). Теперь этот переход осознан и законен. Практические формы даёт понятие обобщённой плотности:
Утверждение 4 (вычислительные формулы) Пусть \(\mu\) — \(\sigma\)-конечная мера на \((\mathbb {R}, \mathscr {B}\left(\mathbb {R}\right))\) и распределение \(\mathbb {P}_\xi\) имеет плотность относительно \(\mu\) (производную Радона–Никодима) \(f = \frac{d\mathbb {P}_\xi }{d\mu }\). Тогда \[
\mathbb {E}\left[g(\xi )\right] = \int _{\mathbb {R}} g(x) f(x) \, \mu (dx).
\] Частные случаи:
\(\mu\) — считающая мера на не более чем счётном множестве значений: \(f(x_k) = \mathbb {P}\left(\xi = x_k\right)\), и формула превращается в \(\mathbb {E}\left[g(\xi )\right] = \sum_k g(x_k) \mathbb {P}\left(\xi = x_k\right)\);
\(\mu\) — мера Лебега: \(f = p_\xi\) — обычная плотность, и \(\mathbb {E}\left[g(\xi )\right] = \int_{\mathbb {R}} g(x) p_\xi (x) \, dx\);
смесь: если \(F_\xi = \sum_k \alpha_k F_k\), то \(\mathbb {E}\left[g(\xi )\right] = \sum_k \alpha_k \int_{\mathbb {R}} g \, dF_k\).
Понятие плотности относительно доминирующей меры — то самое место, где дискретный и непрерывный миры окончательно склеиваются: «таблица распределения» и «плотность» — один и тот же объект \(\frac{d\mathbb {P}_\xi }{d\mu }\) при разных \(\mu\). И это не только эстетика: в статистике (курс 3) функция правдоподобия — в точности плотность относительно доминирующей меры, и без общего понятия правдоподобие для моделей со смешанными распределениями даже не записать. А смешанные распределения — повседневность:
Годовой ущерб клиента по автостраховке моделируется так: с вероятностью \(0{,}9\) страхового случая нет (выплата равна \(0\)), а с вероятностью \(0{,}1\) выплата распределена как \(\operatorname {Exp}(\lambda )\) с \(\frac{1}{\lambda } = 100\) тыс. руб. Найдите ФР выплаты \(\xi\), её обобщённую плотность и \(\mathbb {E}\left[\xi \right]\).
ФР — смесь с атомом в нуле: для \(x \geq 0\)
\[
F_\xi (x) = 0{,}9 + 0{,}1 \left(1 - e^{-\lambda x}\right), \qquad F_\xi (x) = 0 \text{ при } x < 0.
\]
Распределение ни дискретно, ни абсолютно непрерывно. Возьмём доминирующую меру \(\mu = \delta_0 + \operatorname {Leb}\) (атом в нуле плюс мера Лебега); тогда обобщённая плотность
\[
f(x) = \frac{d\mathbb {P}_\xi }{d\mu }(x) = \begin{cases} 0{,}9, & x = 0, \\ 0{,}1 \, \lambda e^{-\lambda x}, & x > 0. \end{cases}
\]
Матожидание по утверждению Утверждение 4:
\[
\mathbb {E}\left[\xi \right] = 0 \cdot 0{,}9 + 0{,}1 \int _0^\infty x \, \lambda e^{-\lambda x} \, dx = 0{,}1 \cdot \frac{1}{\lambda } = 10 \text{ тыс.\ руб.}
\]
Интерактивная иллюстрация ещё не создана. См. исходник: /home/nedosh/Documents/online_math_notes/math-notes_FPMI_2/courses/nedosh_courses/courses/04-probability/02_PT/contents/specials/010/01_insurance_mixed_cdf_fig.tex.
Именно так актуарий считает чистую премию: \(10\) тысяч рублей в год — себестоимость такого полиса (к ней добавляются нагрузка на расходы и рисковая надбавка — о ней мы поговорим, когда дойдём до дисперсии и квантилей). Обратите внимание: никакого специального «смешанного случая» в теории нет — одна формула обслуживает всё.
Ещё одна формула, связывающая матожидание с распределением напрямую, постоянно используется в курсе случайных процессов:
Утверждение 5 (хвостовая формула) Для \(\xi \geq 0\) \[
\mathbb {E}\left[\xi \right] = \int _0^\infty \mathbb {P}\left(\xi > t\right) \, dt;
\] в частности, для целочисленных \(\xi \geq 0\): \(\mathbb {E}\left[\xi \right] = \sum_{n=0}^\infty \mathbb {P}\left(\xi > n\right)\).
Доказательство — одна строка с теоремой Фубини (законной для неотрицательных функций):
\[
\int _0^\infty \mathbb {P}\left(\xi > t\right) \, dt = \int _0^\infty \mathbb {E}\left[\; \mathbb {1}_{\xi > t}\right] \, dt = \mathbb {E}\left[\int _0^\infty \; \mathbb {1}_{t < \xi } \, dt\right] = \mathbb {E}\left[\xi \right].
\]
Интерактивная иллюстрация ещё не создана. См. исходник: /home/nedosh/Documents/online_math_notes/math-notes_FPMI_2/courses/nedosh_courses/courses/04-probability/02_PT/contents/specials/010/02_tail_formula_fig.tex.
Случайная величина \(\xi\) имеет функцию распределения \[
F(x) = \begin{cases} 0, & x < \frac{1}{4}, \\ x, & \frac{1}{4} \leq x < \frac{1}{2}, \\ 1, & \frac{1}{2} \leq x. \end{cases}
\] Опишите структуру распределения (атомы? абсолютно непрерывная часть?), выпишите обобщённую плотность и найдите \(\mathbb {E}\left[\xi \right]\) и \(\operatorname {Var}\left[\xi \right]\).
Пусть \(\xi \sim \operatorname {Pois}(\lambda )\). Вычислите \(\mathbb {E}\left[e^\xi \right]\).
Даны независимые случайные величины \(\xi \sim \operatorname {Exp}(1)\) и \(\eta \sim \operatorname {Exp}(2)\). Найдите \(\mathbb {E}\left[\max (\xi , \eta )\right]\).
Пусть \(\xi\) равна количеству элементов множества \(\left\{ 1, \ldots , n\right\}\), остающихся на своих местах при равновероятной случайной перестановке. Найдите \(\mathbb {E}\left[\xi \right]\) и \(\operatorname {Var}\left[\xi \right]\).
Покажите, что у стандартного распределения Коши (плотность \(p(x) = \frac{1}{\pi (1 + x^2)}\)) матожидание не определено, хотя «симметричный» предел \(\lim_{c \to \infty } \int_{-c}^{c} x \, p(x) \, dx\) существует и равен нулю. Почему определение матожидания требует именно \(\mathbb {E}\left[\left|\xi \right|\right] < \infty\), а не существования симметричного предела?
Студенту-прокрастинатору нужно выполнить задание. Каждый день он, независимо от остальных дней, выполняет долю задания, равномерно распределённую на \([0,1]\) (доли суммируются; задание готово, когда сумма долей достигает \(1\)). Сколько в среднем дней займёт выполнение задания?