Этот конспект ещё находится в процессе редактуры: в тексте могут встречаться опечатки, неточности и локально не проработанные места. Если что-то нашли — сообщите, пожалуйста, автору (контакты на странице курса).
Неформально, случайным процессом называются случайные величины, разбросанные во времени. Формально, пусть \(T \subset \mathbb {R}\) – некоторое подмножество действительных чисел, которое интерпретируется обычно как время. Тогда набор \(X=\left(X_{t}, t \in T\right)\) случайных величин \(X_{t}=X_{t}(\omega ) = X(t,\omega )\), заданных на одном и том же вероятностном пространстве \((\Omega , \mathcal{F}, \mathbb {P})\) для всех \(t \in T\), называется случайным процессом на множестве \(T\).
Если \(T=[a, b], (a, b), [a,+\infty ), \mathbb {R}, \mathbb {R}_+\) и так далее (конечный или бесконечный интервал с границами или без), то \(X_{t}\) называют процессом с непрерывным временем.
Если \(T \subset \mathbb {Z}\), например, \(T = \mathbb {Z}_+\) или \(\mathbb {N}\), то \(X_{t}\) называют процессом с дискретным временем.
\(X_t\), как правило, не являются независимыми при разных \(t\). Если \(\left(t_1, t_2, \ldots , t_n\right)^T\) — вектор элементов множества \(T\), то распределение случайного вектора \(\left(X_{t_1}, X_{t_2}, \ldots , X_{t_n}\right)^T\) обозначается
\[
\mathbf{P}_{t_1,\ldots ,t_n}
\]
и называется конечномерным распределением процесса \(X_t\) в точках \(t_1, \ldots , t_n\).
Случайное блуждание
Игрок пришёл в казино и играет в слот-машину (однорукого бандита). В каждом раунде он делает ставку в размере \(2\) долларов. Результат каждого раунда определяется случайным образом: всего существует \(27\) равновероятных комбинаций, среди которых
\(15\) комбинаций не приносят выигрыша;
\(6\) комбинаций приносят выигрыш в размере \(2\) доллара;
\(4\) комбинации приносят выигрыш в размере \(5\) долларов;
\(2\) комбинации приносят выигрыш в размере \(10\) долларов.
Считается, что раунды независимы друг от друга.
Математически формализуйте игру;
Изобразите несколько возможных траекторий соответствующего случайного процесса;
Найдите математическое ожидание общей прибыли игрока после \(10\) раундов игры.
Пусть \(\xi_1,\xi_2, \ldots\) – это прибыль игрока за 1-й раунд, за 2-й раунд, и т.д. Раунды независимы, значит \(\xi_1, \xi_2, \ldots\) – это НОРСВ, причем распределение такое:
\[
\mathbb {P}\left(\xi _{1} = k\right) = \begin{cases} \frac{15}{27}, & k = -2 \\ \frac{6}{27}, & k = 0 \\ \frac{4}{27}, & k = 3 \\ \frac{2}{27}, & k = 8 \end{cases}
\]
Тогда
\[
S_0 := 0, \qquad S_{n} := \xi _1 + \ldots + \xi _n, \; n \geq 1
\]
– это общая прибыль игрока после \(n\) раундов.
Траектории, соответствующие каким-то трем элементарным исходам \(\omega_{1}, \omega_{2}, \omega_{3} \in \Omega\):
Траектории, соответствующие каким-то трем элементарным исходам ω₁, ω₂, ω₃ ∈ Ω.
\(\mathbb {E}\left[S_{10}\right] = \mathbb {E}\left[\xi_1\right] + \ldots + \mathbb {E}\left[\xi_{10}\right] = 10\mathbb {E}\left[\xi_{1}\right] = 10 \cdot \left(-2 \cdot \frac{15}{27} + 3 \cdot \frac{4}{27} + 8 \cdot \frac{2}{27}\right) = -\frac{20}{27}\).
Дадим формальные определения. Пусть \(\left\{ \xi_{n}, n \in \mathbb {N}\right\}\) – НОРСВ. Тогда процесс с дискретным временем
\[
S_{0} := 0, \qquad S_{n}=\xi _{1}+\cdots +\xi _{n}, \qquad n \in \mathbb {N},
\]
называется случайным блужданием.
Случайный процесс мы определили как набор случайных величин, индексированных \(T\). Формально, если обозначить \(L^{0} = L^{0}(\Omega , \mathcal{F}, \mathbb {P})\) пространство всех случайных величин (стандартное обозначение), то мы ввели случайный процесс как отображение
\[
X: T \to L^{0}, \qquad t \mapsto X_{t}
\]
Мы фиксировали случайный процесс \(X_{t} = X_{t}(\omega ) = X(t, \omega )\) в точке \(t\) и варьировали по \(\omega\). При варьировании по \(\omega\), соотв., должна получаться случайная величина, т.е. измеримая функция. Однако можно в \(X(t,\omega )\) фиксировать \(\omega\) и начать варьировать по \(t\). При таком подходе имеем
\[
X: \Omega \to \mathbb {R}^{T}, \qquad \omega \mapsto X(\cdot , \omega )
\]
В данном случае случайному исходу сопоставляется элемент из \(\mathbb {R}^{T}\), т.е. функция \(T \to \mathbb {R}\). Случайный процесс еще называют случайной функцией.
Правда, чтобы говорить о случайной функции, у нас должна быть измеримость, должна быть какая-то сигма-алгебра на пространстве \(\mathbb {R}^{T}\). Мы немного позже уточним, какую сигма-алгебру используем на \(\mathbb {R}^{T}\).
\(X(\cdot , \omega )\) как функция из \(T\) в \(\mathbb {R}\) называется траекторией или реализацией случайного процесса \(X=X(t,\omega )\), соответствующей элементарному исходу \(\omega\).
Найдите конечномерные распределения случайного блуждания. Найдите, например, чему равно \[
\mathbb {P}\left(S_{2} = 8, \; S_{5} = 6\right)
\] в примере Пример 1.
Пусть \(n_1 < n_2 < \ldots < n_{k}\) – произвольные натуральные числа. Необходимо найти распределение \((S_{n_1}, \ldots , S_{n_k})^T\). Рассмотрим случайный вектор, состоящий из приращений процесса в этих точках:
\[
\begin{pmatrix} S_{n_1}\\ S_{n_2} - S_{n_1}\\ S_{n_3} - S_{n_2}\\ \vdots \\ S_{n_k} - S_{n_{k-1}}\\ \end{pmatrix} = \begin{pmatrix} \xi _{1} + \ldots + \xi _{n_{1}} \\ \xi _{n_{1} + 1} + \ldots + \xi _{n_{2}} \\ \xi _{n_{2} + 1} + \ldots + \xi _{n_{3}} \\ \vdots \\ \xi _{n_{k-1} + 1} + \ldots + \xi _{n_k} \\ \end{pmatrix}
\]
Поскольку \(\xi_{n}\) независимы при разных \(n\), этот вектор состоит из независимых компонент. Его распределение – это произведение распределений компонент. Такой процесс называется процессом с независимыми приращениями: при любых \(0 = n_0 < n_1 < n_2 < \ldots < n_{k}\) приращения процесса за время \(n_1 - n_0, \ldots , n_{k} - n_{k-1}\) независимы в совокупности.
Распределение \(\mathbf{P}_{S_{n}}\) сл. величины \(S_{n}\) (при фиксированном \(n\)) мы считаем для нас известным (например, если \(\xi_{1} \sim \operatorname {Ber}(p)\), то \(\mathbf{P}_{S_{n}} = \operatorname {Bin}(n,p)\)). Значит для нас известно и совместное распределение приращений. Переход от векторов приращений обратно к \((S_{n_1}, \ldots , S_{n_{k}})\) делается так:
\[
\begin{pmatrix} S_{n_1}\\ S_{n_2}\\ S_{n_3} \\ \vdots \\ S_{n_k}\\ \end{pmatrix} = \begin{pmatrix} 1 & 0 & 0 & \cdots & 0 \\ 1 & 1 & 0 & \cdots & 0 \\ 1 & 1 & 1 & \cdots & 0 \\ \vdots & \vdots & \ddots & \ddots & \vdots \\ 1 & 1 & 1 & \cdots & 1 \end{pmatrix} \cdot \begin{pmatrix} S_{n_1}\\ S_{n_2} - S_{n_1}\\ S_{n_3} - S_{n_2}\\ \vdots \\ S_{n_k} - S_{n_{k-1}}\\ \end{pmatrix}
\]
В итоге, чтобы задать конечномерные распределения процесса с независимыми приращениями, достаточно задать распределения самих приращений.
Можно еще заметить, что у случайного блуждания распределение приращения зависит только от разности по времени (т.е. не от самого времени напрямую):
\[
S_{n_2} - S_{n_1} \stackrel{d}{=} S_{n_2 - n_1}
\]
для любых \(0 \leq n_1 < n_2\). Такие приращения называют стационарными.
В примере Пример 1: нужно от условия \(\left\{ S_{2} = 8, \; S_{5} = 6\right\}\) перейти к условиям на приращения. Заметим, что
\[
S_{2} = 8, \; S_{5} = 6 \quad \iff \quad S_{2} = 8, \; S_{5} - S_{2} = -2
\]
Тогда
\[
\begin{align} \mathbb {P}\left(S_{2} = 8, \; S_{5} = 6\right) & = \mathbb {P}\left(S_{2} = 8, \; S_{5} - S_{2} = -2 \right) = \\ & \quad \mathbb {P}\left(S_{2} = 8\right) \cdot \mathbb {P}\left(S_{5} - S_{2} = -2\right) = \\ & = \mathbb {P}\left(S_{2} = 8\right) \cdot \mathbb {P}\left(S_{3} = -2\right) = \\ & = \left(2 \cdot \frac{6}{27} \cdot \frac{2}{27}\right) \cdot \left(3 \cdot \left(\frac{6}{27}\right)^2 \cdot \frac{15}{27}\right) \approx 0.27\% \end{align}
\]
Пусть имеем случайное блуждание \(S_n = \xi_1 + \ldots + \xi_n\), \(\quad \xi_1 \sim \frac{6}{10}\delta_2 + \frac{1}{10}\delta_{0} + \frac{3}{10}\delta_{-3}\), т.е. \[
\mathbb {P}\left(\xi _1 = 2\right) = \frac{6}{10}, \quad \mathbb {P}\left(\xi _{1} = 0\right) = \frac{1}{10} \quad \mathbb {P}\left(\xi _1 = -3\right) = \frac{3}{10}.
\]
Нарисуйте \(3\) произвольные траектории этого случайного блуждания.
Найдите \(\mathbb {E}\left[S_{15}\right]\).
Найдите \(\mathbb {P}\left(S_{5} = 0, S_{7} = 2\right)\).
Процесс восстановления
В магазин приходят покупатели. Предположим, что интервалы времени между соседними покупателями распределены независимо и равномерно на отрезке \([0,10]\) (время измеряем в минутах). Обозначим \(N_{t}\) количество покупателей к моменту времени \(t\).
Математически формализуйте эксперимент;
Нарисуйте несколько типичных траекторий процесса \(N_{t}\).
Пусть \(\xi_1, \xi_2, \xi_3, \dots\) — независимые одинаково распределённые случайные величины, равные интервалам времени между соседними покупателями. Предполагается, что \(\xi_i\) имеют равномерное распределение: \(\xi_i \sim \operatorname {U}[0,10]\). Момент прихода \(n\)-го покупателя:
\[
S_n = \xi _1 + \dots + \xi _n, \quad n \ge 1,
\]
Как определить \(N_{t}\), т.е. сколько покупателей пришло к моменту \(t\)? \(N_{t}\) – это максимальный номер покупателя, пришедшего до момента \(t\), т.е. у которого \(S_{n} \leq t\). Формально:
\[
N_{t} = \max \{ n \in \mathbb {N} \; : \; S_n \le t\} , \quad t \ge 0
\]
(с соглашением \(\max \emptyset := 0\): пока первый покупатель не пришел, \(N_t = 0\)). Это процесс с непрерывным временем, принимающий дискретные значения.
Траектории кусочно-постоянные, непрерывные справа с конечными пределами слева.
Траектории процесса восстановления N_t для двух элементарных исходов ω₁, ω₂.
Пусть \(\left\{ \xi_{n}: n \in \mathbb {N}\right\}\) – независимые одинаково распределенные случайные величины, принимающие значения в \([0, +\infty ]\), \(\xi_{n} \neq \operatorname {const}\). Пусть \(S_{0} := 0\), \(S_{n}:= \xi_{1} + \cdots +\xi_{n}\). Тогда процесс
\[
N_{t} = \max \left\{ n: S_{n} \leqslant t\right\} , \quad t \geqslant 0
\]
(как и выше, \(\max \emptyset := 0\)) называется процессом восстановления или обновляющимся процессом (от англ. renewal process), построенным по случайным величинам \(\left\{ \xi_{n}, n \in \mathbb {N}\right\}\).
Пусть \(\left(N_{t}, t \geqslant 0\right)\) – процесс восстановления, построенный по независимым, но не обязательно одинаково распределенным случайным величинам \(\left(\xi_{n}, n \in \mathbb {N}\right)\), принимающим значения в \([0, +\infty ]\).
Постройте пример процесса \(N_t\), уходящего на бесконечность за конечное время с положительной вероятностью.
Постройте пример \(N_t\), с вероятностью \(1\) не уходящего на бесконечность даже за бесконечное время. Т.е. \(\mathbb {P}\left(\omega \; : \; \lim_{t \to +\infty } N_{t}(\omega ) < +\infty \right) = 1\)
Пуассоновский процесс
Важный частный случай процесса восстановления – это процесс Пуассона. Пусть интервалы между скачками \(\xi_1, \xi_2, \ldots\) (пусть \(\xi\) – случайная величина с тем же распределением) имеют абс. непрерывное распределение на \(\mathbb {R}_+ = [0, +\infty )\) и обладают отсутствием памяти: для \(0 < s, t\) выполнено
\[
\mathbb {P}\left(\xi > t + s \mid \xi > s\right) = \mathbb {P}\left(\xi > t\right)
\]
Напомним, что единственное непрерывное на \([0,+\infty )\) распределение с отсутствием памяти – это экспоненциальное распределение: \(\xi \sim \operatorname {Exp}(\lambda )\) для некоторого \(\lambda > 0\). Процесс восстановления \(N_{t}\) с такими интервалами между скачками (распределенными по экспоненциальному закону с параметром \(\lambda\)) называется пуассоновским процессом интенсивности \(\lambda > 0\).
Слева — две траектории пуассоновского процесса интенсивности λ (жирные точки принадлежат траектории, выколотые — нет: N_t непрерывен справа, имеет пределы слева) и пунктирная прямая среднего 𝔼N_t = λt. Справа — гистограмма N_T по 4000 траекториям против точной Pois(λT). Двигайте слайдер λ.
Почему процесс называется пуассоновским? Почему \(\lambda\) называется интенсивностью?
Найдите конечномерные распределения пуассоновского процесса.
Заметим, что событие \(\left\{ N_{t} = n\right\}\) означает, \(n\)-й человек пришел до момента \(t\), а \((n+1)\)-й после. Значит,
\[
\begin{align} \mathbb {P}\left(N_{t} = n\right) & = \mathbb {P}\left(S_{n} \leq t, \; \underset {=S_{n} + \xi _{n+1}}{S_{n+1}} > t\right) = \\ & = \mathbb {P}\left(S_{n} \leq t, \; \xi _{n+1}> t - S_{n}\right) = \\ & = \int _{0}^{t} \mathbb {P}\left(\xi _{n+1} > t-x\right) \cdot \frac{\lambda ^n}{\Gamma (n)}x^{n-1}e^{-\lambda x} \; dx = \\ & =\int _{0}^{t} e^{-\lambda \cdot (t-x)} \cdot \frac{\lambda ^n}{\Gamma (n)}x^{n-1}e^{-\lambda x} \; dx = \\ & = \frac{(\lambda t)^n}{n!}e^{-\lambda t}. \end{align}
\]
Т.е. \(N_{t} \sim \operatorname {Pois}(\lambda t)\). В частности, \(\mathbb {E}\left[N_{t}\right] = \lambda t\).
Теперь рассмотрим два момента времени \(0 < t_1 < t_2\) и найдем совместное распределение \(N_{t_1}\) и \(N_{t_2}\). Пусть \(n_1 \le n_2\). Событие \(\left\{ N_{t_1}=n_1, N_{t_2}=n_2\right\}\) означает:
\(n_1\)-й человек пришел до \(t_1\), \((n_1+1)\)-й после \(t_1\),
всего к моменту \(t_2\) пришло \(n_2\) человек.
Используем определение:
\[
\begin{align} \mathbb {P}\left(N_{t_1}=n_1, N_{t_2}=n_2\right) & = \mathbb {P}\left(S_{n_1} \le t_1 < S_{n_1+1}, \; S_{n_2} \le t_2 < S_{n_2+1}\right) = \\ & = \text{<4 интеграла>}. \end{align}
\]
Если аккуратно расписать эти интегралы, получим следующий ответ:
\[
\begin{align} \mathbb {P}\left(N_{t_1}=n_1, N_{t_2}=n_2\right) & = \frac{(\lambda t_1)^{n_1}}{n_1!} e^{-\lambda t_1} \\ & \quad \cdot \frac{[\lambda (t_2 - t_1)]^{\, n_2 - n_1}}{(n_2 - n_1)!} e^{-\lambda (t_2 - t_1)} \end{align}
\]
То, что стоит слева, равно \(\mathbb {P}\left(N_{t_1} = n_1, N_{t_{2}} - N_{t_1} = n_2 - n_1\right)\). То, что стоит справа, равно (по-сути вывели выше) \(\mathbb {P}\left(N_{t_1} = n_1\right) \cdot \mathbb {P}\left(N_{t_{2}} - N_{t_1} = n_2 - n_1\right)\). Итого, получаем, что \(N_{t_1}\) и \(N_{t_{2}} - N_{t_1}\) независимы.
То же самое можно проделать и с произвольным количеством точек для конечномерного распределения. Итого, пуассоновский процесс – это процесс с независимыми приращениями, причем эти приращения распределены по закону Пуассона с параметром, пропорциональным приращению по времени (т.е. приращения стационарны). Более формально: для произвольных \(0 < t_{1} < t_{2} < \ldots < t_k\) (\(k \in \mathbb {N}\)) приращения
\[
\begin{align} & N_{t_1} - \underbrace{N_{0}}_{=0 \text{ п.н.}}, \quad N_{t_2} - N_{t_1}, \quad N_{t_3} - N_{t_2}, \\ & \quad \ldots , \quad N_{t_{k}} - N_{t_{k-1}} \end{align}
\]
независимы в совокупности, причем \(N_{t} - N_{s} \sim \operatorname {Pois}(\lambda (t-s))\), \(0 \leq s < t\).
Заодно получены ответы на вопросы перед примером: процесс называется пуассоновским, потому что \(N_t \sim \operatorname {Pois}(\lambda t)\) (и все приращения пуассоновские), а \(\lambda\) называется интенсивностью, потому что \(\mathbb {E}\left[N_t\right] = \lambda t\): в единицу времени происходит в среднем \(\lambda\) событий.
Страховой агент занимается урегулированием страховых случаев. Заявки подаются в рабочие дни в соответствии с пуассоновским процессом с интенсивностью \(\lambda = 5\) шт. в день.
Если в понедельник было подано две заявки, а во вторник — три, какова вероятность того, что к концу дня в пятницу общее количество поданных заявок за эту неделю составит \(16\)?
В новом календарном году агент начинает работу в понедельник, 12 января. В какой день он ожидает получить \(30\)-ю заявку?
Пусть процесс \(N_{t}\) моделирует подачу заявок, пусть \(t\) – это дни.
Пользуемся независимостью приращений:
\[
\begin{align} \mathbb {P}\left(N_{5} = 16 \mid N_{1} = 2, N_{2} - N_{1} = 3\right) & = \mathbb {P}\left(N_{5} - N_{2} = 11 \mid N_{1} = 2, N_{2} - N_{1} = 3\right) = \\ & = \mathbb {P}\left(N_{5} - N_{2} = 11\right) = \frac{(3\lambda )^{11} }{11!}e^{-3\lambda } \approx 6.6\% \end{align}
\]
Время прихода \(30\)-й заявки – это \(S_{30}\), сумма \(30\) независимых \(\operatorname {Exp}(5)\)-интервалов: \(\mathbb {E}\left[S_{30}\right] = 30 \cdot \frac{1}{5} = 6\) рабочих дней. Шестой рабочий день после старта в понедельник 12 января – это понедельник следующей недели, 19 января.
В технический центр поступают заявки на ремонт оборудования. Заявки приходят в рабочие дни в соответствии с пуассоновским процессом \(N_t\) с интенсивностью \(\lambda = 4\) заявки в день.
В новом месяце центр начинает работу в понедельник, 5 февраля. В какой день он ожидает получить 20-ю заявку?
Какова вероятность того, что в течение одного рабочего дня придет не более 1 заявки?
Если в понедельник было подано 3 заявки, а в среду — 5, какова вероятность того, что к концу пятницы общее количество заявок за неделю составит 20?
Найдите вероятность, что с начала недели к концу вторника было подано \(3\) заявки, а к середине четверга не более \(7\) заявок. Иначе говоря, найдите \(\mathbb {P}\left(N_{2} = 3, \; N_{3.5} \leq 7\right)\).
Модель страхования Спарре-Андерсена
Пусть имеется страховая компания, которая получает доход в виде постоянных страховых взносов и теряет деньги, выплачивая страховые возмещения случайного размера в случайные моменты времени. Пусть
\(x_{0}\) — начальный капитал компании (константа);
\(c\) — скорость поступления страховых взносов (константа);
\(\xi_{n}\) — время между \((n-1)\)-й и \(n\)-й страховыми выплатами, \(\xi_1, \xi_2, \ldots\) – это НОРСВ;
\(S_{n}=\xi_{1}+\cdots +\xi_{n}\) – время \(n\)-й выплаты;
\(\eta_{n}\) — размер \(n\)-й выплаты, \(\eta_1, \eta_2, \ldots\) – НОРСВ, независимые к тому же и от \(\left\{ \xi_n\right\}_{n \in \mathbb {N}}\);
\(N_{t}\) — число выплат к моменту времени \(t>0\);
\(\sum_{k=1}^{N_{t}} \eta_{k}\) — общий размер выплат к этому моменту времени;
\(Y_{t}\) — текущий капитал компании в момент времени \(t\).
Тогда \(\left(N_{t}, t \geqslant 0\right)\) — суть процесс восстановления, построенный по \(\left\{ \xi_{n}, n \in \mathbb {N}\right\}\) и
\[
Y_{t}=x_{0}+c \cdot t-\sum _{k=1}^{N_{t}} \eta _{k},
\tag{1}\]
Данная модель называется моделью страхования Спарре-Андерсена. Процесс \(\sum_{k=1}^{N_{t}} \eta_{k}\) называется процессом восстановления с прибылью (англ. renewal-reward process).
Пусть, например, \(\xi_i \sim \operatorname {U}[0,5]\), пусть \(\eta_i \sim \operatorname {Geom}(0.7)\). Нарисуйте 3 типичные траектории процесса \(\sum_{k=1}^{N_{t}} \eta_{k}\) и соответствующего \(Y_{t}\) из модели Спарре-Андерсена.
Пусть в модели Спарре-Андерсена процесс выплат пуассоновский: \(\xi_i \sim \operatorname {Exp}(\lambda )\) (этот частный случай называется моделью Крамера–Лундберга). Пусть \(\psi (v) := \mathbb {E}\left[e^{v\eta_1}\right]\). Вычислите \(\mathbb {E}\left[e^{-v(Y_t - Y_s)}\right]\) для \(0 \leq s < t\).