Этот конспект ещё находится в процессе редактуры: в тексте могут встречаться опечатки, неточности и локально не проработанные места. Если что-то нашли — сообщите, пожалуйста, автору (контакты на странице курса).
Как уже говорилось, на случайный процесс \(X=\left(X(t,\omega ), t \in T\right)\) можно смотреть с трех разных точек зрения.
Как в определении: фиксируем \(t=t_0\) и будем рассматривать \(X_t(\cdot ) = X_{t_0}(\cdot )\) – случайный элемент. В таком случае мы получаем семейство случайных элементов \(X_t: (\Omega ,\mathcal{F}) \to (\mathsf{S}, \mathscr {B})\), индексированных \(t \in T\). Если мы обозначим за \(L^0\) множество всех измеримых отображений из \((\Omega ,\mathcal{F})\) в \((\mathsf{S}, \mathscr {B})\) то случайный процесс в данном случае представляется в виде
\[
X: T \to L^0, \qquad t \mapsto X_{t} = X(t,\cdot )
\]
Фиксируем \(\omega =\omega_0\) и рассмотрим \(X(\cdot , \omega ) = X(\cdot , \omega_0) = X_{\cdot }(\omega_0)\). Напомним, это отображение на \(T\) называется траекторией случайной функции \(X=\left(X(t,\omega ), t \in T\right)\). Случайный процесс в данном случае представляется в виде
\[
X: \Omega \to \mathsf{S}^T, \qquad \omega \mapsto X(\cdot , \omega )
\]
где \(\mathsf{S}^T\) – пространство траекторий, т.е. множество всевозможных отображений из \(T\) в \(\mathsf{S}\).
Учитывая, что на \(\Omega\) есть сигма-алгебра \(\mathcal{F}\), естественно ввести какую-то сигма-алгебру и на \(\mathsf{S}^T\), чтобы рассматривать \(X\) уже как один случайный элемент со значениями в пространстве траекторий (функций). В таком случае можно было бы говорить, что \(X\) – это случайная функция или случайная траектория.
Сегодняшний семинар посвящен этому вопросу.
Не будем фиксировать никакую переменную. В таком случае случайный процесс представляется в виде
\[
X: T \times \Omega \to \mathsf{S}, \qquad (t, \omega ) \mapsto X(t,\omega )
\]
Если на пространстве \(T \times \Omega\) задана какая-то сигма-алгебра \(\mathcal{O}\), то естественно задаться вопросом, будет ли измеримым \(X\) как отображение из \((T \times \Omega , \mathcal{O})\) в \((\mathsf{S},\mathcal{F})\). Изучение случайных функций с этой точки зрения тесно связано со стохастическим исчислением. В нашем курсе мы не будем касаться этих тем. Подробнее см., например, (Gushchin 2015 г.).
В дальнейшем \(X\) без индекса будет обозначать отображение \(\Omega \to \mathsf{}^T\).
Случайная функция. Цилиндрическая сигма-алгебра
Относительно какой сигма-алгебры на \(\mathsf{S}^T\) отображение \(X: \Omega \to \mathsf{S}^T\) точно будет измеримым? Введем отображение проекции: для произвольного \(t\) пусть
\[
\pi _{t}: \mathsf{S}^T \to \mathsf{S}, \qquad f \mapsto f(t)
\]
Тогда \(X_{t} = \pi_t \circ X\).
Схема измеримых пространств и отображений: случайная функция \(X\), её сечение \(X_t\) в момент \(t\) и проекция \(\pi_t\). Наведите курсор на узел или стрелку, чтобы увидеть пояснение.
Из определения известно, что \(X_t = \pi_t \circ X\) измерима для любого \(t \in T\):
\[
\begin{align} \left\{ X_t \in B\right\} & = X_t^{-1}(B) \\ & = ( \pi _t \circ X)^{-1}(B) \\ & = X^{-1}\left(\pi _t^{-1}(B)\right) \in \mathcal{F}, \qquad \forall B \in \mathscr {B} \end{align}
\]
\(\pi_t^{-1}(B)\) – это множество всех траекторий, которые в точке \(t\) проходят через «ворота» (множество) \(B\). Такое множество называют элементарным цилиндром.
Двигайте слайдеры центра и ширины «ворот» (B), а также точки (t_0) — траектории перекрашиваются в синий, если проходят через ворота в момент (t_0) (т.е. лежат в цилиндре ({t_0}^{-1}(B))), и в красный пунктир, если нет. Включите переключатель «вторые ворота», чтобы посмотреть на пересечение двух элементарных цилиндров ({t_0}^{-1}(B) _{t_1}^{-1}(B_1)).
Обозначим множество всех элементарных цилиндров \(\mathcal{M}\):
\[
\mathcal{M} = \left\{ \pi _t^{-1}(B) \; : \; t \in T, \; B \in \mathscr {B}\right\}
\]
В таком случае имеем \(X^{-1}(\mathcal{M}) \subset \mathcal{F}\). По свойствам сигма-алгебр получаем, что \(X^{-1}(\sigma (\mathcal{M})) \subset \mathcal{F}\). Сигма-алгебра \(\sigma (\mathcal{M})\) называется цилиндрической сигма-алгеброй на \(\mathsf{S}^T\) и обозначается \(\mathscr {B}^T\).
Мы получили следующее утверждение: если \((X_{t})_{t \in T}\) – случайный процесс, то \(X\) будет измеримым отображением из \((\Omega , \mathcal{F})\) в пространство траекторий \(\mathsf{}^T\), снабженное цилиндрической сигма-алгеброй \(\mathscr {B}^T\).
Оказывается, верно и обратное утверждение.
Лемма 1 (Эквивалентное определение случайного процесса) colback=black!5!white,colframe=red!75!black,size=small, fonttitle=,width=0.4box align=top, nobeforeafter Пусть \(X = X_{t} = X_t(\omega ) = X(t,\omega )\) – некоторое отображение из \(T \times \Omega\) в \(\mathbb {R}\). Тогда
| \((X_t)_{t \in T}\) — случайный процесс, т.е. \(\forall t \in T\) отображение \(X_t: (\Omega,\mathcal{F}) \to (S, \mathcal{B}(S))\) — измеримое. |
\(\iff\) |
\(X: \omega \mapsto X(\cdot, \omega)\) — измеримое отображение из \((\Omega, \mathcal{F})\) в \((S^T, \mathcal{B}(S)^T)\). Иначе говоря, \(X\) — это случайная функция, т.е. случайный элемент со значениями в пространстве \(\mathbb{R}^T\) с цилиндрической сигма-алгеброй. |
Схема эквивалентности двух определений случайного процесса: как индексированного семейства измеримых отображений \(X_t\) и как одного измеримого отображения \(X\) в пространство функций.
Распределение случайной функции
Пусть дана случайная функция \(X: (\Omega , \mathcal{F}) \to (\mathsf{S}^T, \mathscr {B}^T)\). Если на пространстве \((\Omega , \mathcal{F})\) задана вероятностная мера \(\mathbb {P}\), то у \(X\) появляется распределение – вероятностная мера на \((\mathsf{S}^T, \mathscr {B}^T)\), обозначаемая \(\mathbf{P}_{X}\) или \(\operatorname {Law}\left(X\right)\):
\[
\mathbf{P}_{X}\left(A\right) := \mathbb {P}\left(X \in A\right), \quad A \in \mathscr {B}^T
\]
Поскольку пространство \(\mathsf{S}^T\), как правило, бесконечномерное, изучение распределений на \((\mathsf{S}^T, \mathscr {B}^T)\) удобно свести к изучению их конечномерных проекций.
Определение 1 Для произвольного \(n \in \mathbb {N}\), для произвольного набора различных точек \(t_1, \ldots , t_n \in T\) обозначим \[
\begin{align} \pi _{t_1, \ldots , t_n}& : \mathsf{S}^T \to \mathsf{S}^n, \qquad y \mapsto (y(t_1), \ldots , y(t_n)) \\ \end{align}
\] проекцию пространства \(\mathsf{S}^T\) на \(\mathsf{S}^n\) в точках \(t_1, \ldots , t_n\).
Схема измеримых пространств и отображений: случайная функция \(X\), её конечномерное сечение \((X_{t_1}, \ldots, X_{t_n})\) и проекция \(\pi_{t_1, \ldots, t_n}\). Наведите курсор на узел или стрелку, чтобы увидеть пояснение.
Поскольку \(X: (\Omega , \mathcal{F}) \to (\mathsf{S}^T, \mathscr {B}^T)\) и \(\pi_{t_1, \ldots , t_n}: (\mathsf{S}^T, \mathscr {B}^T) \to (\mathsf{S}^n, \mathscr {B}^n)\) измеримы, их композиция
\[
(X_{t_1}, \ldots , X_{t_n}) = \pi _{t_1, \ldots , t_n} \circ X : (\Omega , \mathcal{F}) \to (\mathsf{S}^n, \mathscr {B}^n)
\]
тоже является измеримой, т.е. случайным элементом. Распределение этого случайного элемента называется конечномерным распределением случайной функции \(X\) (соответствующим \(t_1, \ldots , t_n\)) и обозначается \(\mathbf{P}_{X,t_1, \ldots , t_n}\) или \(\operatorname {Law}\left(X_{t_1}, \ldots , X_{t_n}\right)\) или, если из контекста понятно, о какой случ. функции идет речь, то просто \(\mathbf{P}_{t_1, \ldots , t_n}\).
Для краткости используем обозначение \[
\begin{align} \left\{ \pi ^{-1}_{t_1, \ldots , t_n}(\mathscr {B}^n)\right\} & := \\ & \quad \left\{ \pi ^{-1}_{t_1, \ldots , t_n}(B) \; : \; n \in \mathbb {N}, \; t_1, \ldots , t_n \in T, \; t_i \neq t_j, \; B \in \mathscr {B}^n\right\} \end{align}
\] Докажите, что
\(\mathscr {B}^T = \sigma \left\{ \pi^{-1}_{t_1, \ldots , t_n}(\mathscr {B}^n)\right\}\);
\(\left\{ \pi^{-1}_{t_1, \ldots , t_n}(\mathscr {B}^n)\right\}\) – \(\pi\)-система .
Напомним, что если 2 вероятностные меры совпадают на какой-то \(\pi\)-системе, то они совпадают и на сигма-алгебре, ей порожденной. При этом если \(\mathbf{P}_{X}\) – распределение сл. функции \(X\) на \((\mathsf{S}^T, \mathscr {B}^T)\), то сужение этой вероятностной меры на сигма-алгебру \(\pi^{-1}_{t_1, \ldots , t_n}(\mathscr {B}^n) \subset \mathscr {B}^T\) является, в сущности, конечномерным распределением, поскольку \(\forall B \in \mathscr {B}^n\) имеем
\[
\mathbf{P}_{X}\left(\pi ^{-1}_{t_1, \ldots , t_n}(B)\right) = \mathbf{P}_{t_1, \ldots , t_n}(B)
\]
Таким образом, распределение \(\mathbf{P}_{X}\) произвольной случ. функции \(X\) на \((\mathsf{S}^T, \mathscr {B}^T)\) однозначно задается конечномерными распределениями \(\left\{ \mathbf{P}_{t_1, \ldots , t_n}\right\}\).
Построение распределения на пространстве функций по конечномерным распределениям
Мы выяснили, что распределение \(\mathbf{P}\) (т.е. вероятностная мера на \((\mathsf{S}^T, \mathscr {B}^T)\)) однозначно задается конечномерными распределениями
\[
\mathbf{P}_{t_1,\ldots ,t_n} := \mathbf{P} \circ \pi _{t_1,\ldots ,t_n}, \qquad t_1,\ldots ,t_n \in T
\]
Возникает вопрос: а в каком случае по заданным конечномерным распределениям \(\mathbf{P}_{t_1,\ldots ,t_n}\) можно восстановить распределение \(\mathbf{P}\) на всем (как правило, бесконечномерном) \((\mathsf{S}^T, \mathscr {B}^T)\)?
Если \(\mathbf{P} = \mathbf{P}_X\), т.е. \(\mathbf{P}\) – распределение некоторой случайной функции \(X\), то заметим, что
\[
\mathbf{P}_{t_1, \ldots , t_n}\left(B_1 \times \dots \times B_n\right) = \mathbb {P}\left(\bigcap _{k=1}^n X_{t_k}^{-1}(B_k)\right),
\]
где \(B_1, \ldots , B_n \in \mathscr {B}\). Из этого соотношения вытекают условия симметрии и согласованности конечномерных распределений: \(\forall n \geq 2, \; \forall t_1, \ldots , t_n\) – набора различных точек из \(T\), \(\forall B_1, \ldots , B_n \in \mathscr {B}\)
\(\mathbf{P}_{t_1, \ldots , t_n}\left(B_1 \times \dots \times B_n\right) = \mathbf{P}_{t_{i_1}, \ldots , t_{i_n}}\left(B_{i_1} \times \dots \times B_{i_n}\right)\) для любой перестановки \((i_1, \ldots , i_n)\) чисел \((1, \ldots , n)\);
\(\mathbf{P}_{t_1, \ldots , t_n}\left(B_1 \times \dots \times B_{n-1} \times \mathsf{S}\right) = \mathbf{P}_{t_1, \ldots , t_{n-1}}\left(B_1 \times \dots \times B_{n-1}\right)\).
Оказывается, при определенных топологических ограничениях на \((\mathsf{S}, \mathscr {B})\), условий , достаточно для существования \(\mathbf{P}\).
Теорема 1 (Колмогоров) Пусть задан набор распределений \[
\left\{ \mathbf{P}_{t_1,\ldots ,t_n}\text{ -- распределение на } (\mathsf{S}^n,\mathscr {B}^n) \; : \; n \in \mathbb {N}, t_1, \ldots , t_n \in T, \; t_i \neq t_j\right\}
\] удовлетворяющий условиям симметрии и согласованности , . Тогда найдется распределение \(\mathbf{P}\) на \((\mathsf{}^T, \mathscr {B}^T)\), такое что его конечномерные распределения будут распределениями, заданными выше.
Мы получили вероятностную меру \(\mathbf{P}\) на \((\mathsf{}^T, \mathscr {B}^T)\). Но как получить теперь случайный элемент (случайную функцию) \(X\) с таким распределением? Вспомним каноническую модель:
\[
(\Omega , \mathcal{F}) := \left(\mathsf{}^T, \mathscr {B}^T\right), \qquad X := \operatorname {Id}
\]
Т.е. определяем \(X\) как тождественное отображение на пространстве траекторий. В этом случае
\[
(X_t)_{t \in T} = (\pi _t)_{t \in T},
\]
ведь \(X_t = \pi_t \circ X = \pi_t \circ \operatorname {Id}\). Иначе говоря, (одномерные) проекции пространства траекторий выступают случайным процессом. Данное построение называется канонической моделью.
Условия согласованности через харфункции для сл. функций со значениями в
Напомним, что есть взаимно-однозначное соответствие между вероятностными мерами на \((\mathbb {R}^{n}, \mathscr {B}\left(\mathbb {R}^{n}\right))\) и их характеристическими функциями. Давайте переформулируем условия , через характеристические функции.
Теорема 2 Пусть дан набор распределений \(\mathbb {P}_{t_1, \dots , t_n}\) на \((\mathbb {R}^{n}, \mathscr {B}\left(\mathbb {R}^{n}\right))\), \(n \in \mathbb {N}, \; t_1, \ldots , t_n \in T, t_i \neq t_j\) при \(i \neq j\). Обозначим \(\varphi_{t_1,\dots ,t_n}\) харфункцию для \(\mathbb {P}_{t_1, \dots , t_n}\). Тогда условия симметрии и согласованности , эквивалентны следующим условиям:
\(\varphi_{t_{i_1}, \ldots , t_{i_n}}(\lambda_{i_1}, \ldots , \lambda_{i_n}) = \varphi_{t_1, \ldots , t_n}(\lambda_1, \ldots , \lambda_n)\) для любой перестановки \((i_1, \ldots , i_n)\) чисел \((1, \ldots , n)\);
\(\varphi_{t_1, \ldots , t_{n-1}, t_n}(\lambda_1, \ldots , \lambda_{n-1}, 0) = \varphi_{t_1, \ldots , t_{n-1}}(\lambda_1, \ldots , \lambda_{n-1})\).
Частный случай построения распределения: независимые приращения
Напомним определение.
Определение 2 Процесс \(\left(X_{t}, t \geqslant 0\right)\) называется процессом с независимыми приращениями, если \(\forall n \in \mathbb {N} \; \forall 0 \leqslant t_{1}<\ldots <t_{n}\) случайные величины \(X_{t_{n}}-X_{t_{n-1}}, \ldots , X_{t_{2}}-X_{t_{1}}, X_{t_{1}}\) независимы в совокупности.
Отметим, что в случае дискретного времени процесс с независимыми приращениями является не чем иным, как случайным блужданием. Тем самым, процессы с независимыми приращениями естественно рассматривать как обобщение случайных блужданий для непрерывного времени.
Теорема 3 (Теорема Колмогорова о существовании для процессов с независимыми приращениями) Пусть задано начальное (одномерное) распределение процесса \(\mathbb {Q}_0\) и набор (одномерных) вероятностных распределений приращений процесса \(\left\{ \mathbb {Q}_{s,t}: \; 0 \leq s < t < +\infty \right\}\) с харфункциями \(\left\{ \varphi_{s,t}\right\}\). Процесс \((X_t, t \geq 0)\) с независимыми приращениями, удовлетворяющий условиям \(X_0 \sim \mathbb {Q}_0, \; X_{t}-X_{s} \sim \mathbb {Q}_{s, t}, 0 \leq s < t\), существует тогда и только тогда, когда \[
\varphi _{s,t} = \varphi _{s,u} \cdot \varphi _{u,t}, \quad \forall 0\leq s < u < t.
\]
Докажите теор. Теорема 3.
В одну сторону: очевидно.
В обратную сторону: не ограничивая общности, пусть \(\mathbb {Q}_0 = \delta_0\). Пусть \(\varphi_{s,t} = \varphi_{s,u} \cdot \varphi_{u,t}\). Докажем, что процесс существует. Пусть \(\varphi_{t_1, \ldots , t_n} = \varphi_{X_{t_1}, \ldots , X_{t_n}}\), \(t_1 < \dots < t_n\) – харфункция его конечномерного распределения. Проверим выполнение условия согласованности. Пусть \(\lambda = (\lambda_1, \dots , \lambda_n)^T \in \mathbb {R}^{n}\). Имеем
\[
\begin{align} \varphi _{t_1, \ldots , t_n}(\lambda ) & = \mathbb {E}\left[e^{i\left\langle (X_{t_1}, \ldots , X_{t_n})^T, \lambda \right\rangle }\right] = \\ & = \mathbb {E}\left[e^{i\left\langle A^{-1}A(X_{t_1}, \ldots , X_{t_n})^T, \lambda \right\rangle }\right] = \\ & = \mathbb {E}\left[e^{i\left\langle A(X_{t_1}, \ldots , X_{t_n})^T, (A^{-1})^T\lambda \right\rangle }\right] = \\ & = \varphi _{A(X_{t_1}, \ldots , X_{t_n})^T}((A^{-1})^T\lambda ), \end{align}
\]
где
\[
\begin{align} A & = \begin{pmatrix} 1 & 0 & 0 & 0 & 0 & \dots & 0 & 0 \\ -1 & 1 & 0 & 0 & 0 & \dots & 0 & 0 \\ 0 & -1 & 1 & 0 & 0 & \dots & 0 & 0 \\ 0 & 0 & -1 & 1 & 0 & \dots & 0 & 0 \\ \vdots & \vdots & \vdots & \vdots & \vdots & \ddots & \vdots & \vdots \\ 0 & 0 & 0 & 0 & 0 & \dots & -1 & 1 \\ \end{pmatrix}, \\ A^{-1} & = \begin{pmatrix} 1 & 0 & 0 & 0 & 0 & \dots & 0 & 0 \\ 1 & 1 & 0 & 0 & 0 & \dots & 0 & 0 \\ 1 & 1 & 1 & 0 & 0 & \dots & 0 & 0 \\ 1 & 1 & 1 & 1 & 0 & \dots & 0 & 0 \\ \vdots & \vdots & \vdots & \vdots & \vdots & \ddots & \vdots & \vdots \\ 1 & 1 & 1 & 1 & 1 & \dots & 1 & 1 \\ \end{pmatrix}, \\ (A^{-1})^T & = \begin{pmatrix} 1 & 1 & 1 & 1 & 1 & \dots & 1 & 1 \\ 0 & 1 & 1 & 1 & 1 & \dots & 1 & 1 \\ 0 & 0 & 1 & 1 & 1 & \dots & 1 & 1 \\ 0 & 0 & 0 & 1 & 1 & \dots & 1 & 1 \\ \vdots & \vdots & \vdots & \vdots & \vdots & \ddots & \vdots & \vdots \\ 0 & 0 & 0 & 0 & 0 & \dots & 0 & 1 \\ \end{pmatrix} \end{align}
\]
Следовательно, обозначая \(\lambda ' := (A^{-1})^T\lambda\), т.е. \(\lambda '_k = \lambda_k + \ldots + \lambda_n\), и пользуясь независимостью приращений, имеем
\[
\begin{align} \varphi _{t_1, \ldots , t_n}(\lambda ) & = \varphi _{X_{t_1}, X_{t_2}-X_{t_1}, \ldots , X_{t_n} - X_{t_{n-1}}}(\lambda ^\prime ) = \\ & = \varphi _{0, t_1}\left(\sum _{i=1}^n\lambda _i\right) \cdot \prod _{k=2}^{n} \varphi _{t_{k-1}, t_k}\left(\sum _{i=k}^n\lambda _i\right) \end{align}
\]
Эта выкладка проведена для гипотетического процесса \(X\) (которого пока нет); примем теперь ее правую часть за определение харфункций \(\varphi_{t_1, \ldots , t_n}\) для упорядоченных наборов \(t_1 < \ldots < t_n\) (на неупорядоченные наборы распространим по симметрии, тогда условие выполнено автоматически) и проверим условие согласованности из теоремы Теорема 2, причем сразу в усиленной форме: с обнулением любой координаты \(\lambda_k\), а не только последней. При \(\lambda_k = 0\) имеем \(\lambda '_k = \lambda '_{k+1}\), и два соседних множителя склеиваются в один в точности по условию теоремы:
\[
\varphi _{t_{k-1}, t_k}(\lambda '_{k+1}) \cdot \varphi _{t_k, t_{k+1}}(\lambda '_{k+1}) = \varphi _{t_{k-1}, t_{k+1}}(\lambda '_{k+1}),
\]
и получается в точности харфункция набора без точки \(t_k\) (при \(k = n\) последний множитель просто обращается в \(\varphi_{t_{n-1}, t_n}(0) = 1\)). Именно здесь и используется условие \(\varphi_{s,t} = \varphi_{s,u} \cdot \varphi_{u,t}\). Условия согласованности проверены, и по теореме Колмогорова о существовании (теор. Теорема 1) искомый процесс существует.
Определение 3 Пусть \(\Lambda\) – некоторая мера (т.е. неотрицательная счетно-аддитивная функция множеств) на \((\mathbb {R}_+, \mathscr {B}\left(\mathbb {R}_+\right))\) с плотностью \(\lambda (t)\) относительно меры Лебега \(\mu\): \[
\Lambda (B) = \int _{B} \lambda (t) \; \mu (dt), \qquad B \in \mathscr {B}\left(\mathbb {R}_+\right)
\] Случайный процесс \(\left(N_{t}, t \geqslant 0\right)\) называется (неоднородным) пуассоновским процессом с функцией интенсивности \(\lambda (t)\), если выполнены три условия:
\(N_{0}=0\) п.н.;
\(N_{t}\) имеет независимые приращения;
\(N_{t}-N_{s}\) имеет пуассоновское распределение с параметром \(\Lambda (s,t]\) для всех \(0 \leq s \leq t < \infty\).
Обратите внимание, что условия наложены только лишь на распределение процесса в пространстве траекторий. В этом смысле данное определение – это скорее определение распределения пуассоновской случайной функции на пространстве траекторий. Однако в большинстве источников понятия случайного процесса и его распределения используются взаимозаменяемо.
Если \(\lambda (t) \equiv \operatorname {const}\), то пуассоновский процесс с такой интенсивностью называется однородным. Мы ранее сталкивались именно с однородным пуассоновским процессом. Заметьте при этом, что однородный пуассоновский процесс мы построили в явном виде, как процесс восстановления. И он у нас сразу обладал хорошими траекториями: они все были непрерывными справа с конечными пределами слева.
Докажите, что неоднородный пуассоновский процесс существует.
Примечание. В данной задаче требуется доказать лишь наличие распределения на \((\mathbb {R}^T, \mathscr {B}^T)\) с указанными свойствами. Для практических целей нам бы хотелось большего: чтобы, как и в случае однородного процесса, у неоднородного процесса траектории были непр. справа с конечными пределами слева. Именно так ведет себя счетчик посетителей магазина на практике. Подробнее о получении хороших траекторий см. ниже.
Харфункция пуассоновского распределения: \(\varphi_{\operatorname {Pois}\left(\alpha \right)}(t) = \mathrm{exp}\left(\alpha (e^{it} - 1)\right)\)
Верхняя панель — интенсивность ((t) = 0 + A(1.5t-1)); нижняя — смоделированная прореживанием (thinning) траектория (N_t) с красными метками моментов скачков: генерируется однородный пуассоновский процесс скорости ({}=0+A), и каждая точка независимо оставляется с вероятностью ((t)/{}). Двигайте слайдеры (_0) и (A), чтобы увидеть, как густота скачков следует за интенсивностью, и нажмите «Новая реализация», чтобы перегенерировать траекторию при тех же ((t)).
Эквивалентные случайные функции
Обратимся к вопросу о том, какие случайные функции и в каком смысле могут считаться «неотличимыми».
Определение 4 Пусть \(X, Y\) – две случайные функции, заданные на одном и том же ВП \((\Omega , \mathcal{F}, \mathbb {P})\), параметризованные одним и тем же множеством \(T\), и принимающие значение в одном и том же пространстве \((\mathsf{S}, \mathscr {B})\).
\(X, Y\) называются стохастически эквивалентными в широком смысле, если у них совпадают распределения в пространстве траекторий \((\mathsf{S}^T, \mathscr {B}^T)\): \(\mathbf{P}_{X} = \mathbf{P}_{Y}\).
Напомним, что распределение сл. функции однозначно задается ее конечномерными распределениями. Следовательно, чтобы \(X,Y\) были стох. эквивалентными в широком смысле, достаточно, чтобы \(\forall n \in \mathbb {N}, \; t_1, \ldots , t_n \in T, \; t_i \neq t_j\) при \(i \neq j\) было выполнено
\[
\operatorname {Law}\left(X_{t_1}, \ldots , X_{t_n}\right) = \operatorname {Law}\left(Y_{t_1}, \ldots , Y_{t_n}\right).
\]
Заметим, что для данного определения в общем случае необязательно, чтобы \(X, Y\) были заданы на одном и том же ВП \((\Omega , \mathcal{F}, \mathbb {P})\).
\(X, Y\) называются стохастически эквивалентными в узком смысле, если
\[
\mathbb {P}\left(X_t = Y_t\right)= 1, \; \forall t \in T
\]
Т.е. в каждой временной точке \(t\) значения процессов совпадают п.н. В этом случае \(Y\) называют модификацией или версией \(X\) (\(X\) аналогично называют модификацией или версией \(Y\)).
\(X, Y\) называются неразличимыми (стохастически неразличимыми), если они п.н. равны:
\[
\mathbb {P}\left(X = Y\right) = 1
\]
Распишем событие \(\left\{ X = Y\right\}\):
\[
\begin{align} \left\{ X = Y\right\} & = \left\{ \omega \; : X(\omega ) = Y(\omega )\right\} \\ & = \left\{ \omega \; : \; X_{t}(\omega ) = Y_t(\omega ), \; \forall t \in T\right\} \\ & = \left\{ X_t = Y_t \quad \forall t \in T\right\} \end{align}
\]
Стохастическая неразличимость означает, что у \(X\) и \(Y\) п.н. совпадают траектории:
\[
\mathbb {P}\left(X = Y\right) = \mathbb {P}\left(X_t = Y_t \quad \forall t \in T\right) = 1
\]
Сравните с стохастической эквивалентностью в узком смысле: \(\mathbb {P}\left(X_t = Y_t \right) = 1, \; \forall t \in T\). Определения отличаются тем, где стоит <<\(\forall t \in T\)>>: под знаком вероятности или за его пределами.
Примечание: предполагается, что все события, фигурирующие выше под знаком \(\mathbb {P}\), измеримы, т.е. находятся в \(\mathcal{F}\).
Приведите пример процессов \(X = (X_t), Y = (Y_t)\) таких, что \(\operatorname {Law}\left(X_t\right) = \operatorname {Law}\left(Y_t\right), \; \forall t \in T\), но при этом не являющихся стохастически эквивалентными в широком смысле. Т.е. у процессов должны совпадать распределения в каждой точке, но некоторые конечномерные распределения должны различаться.
Приведите пример действительных процессов \(X = (X_t), \; Y = (Y_t)\), заданных на одном и том же вероятностном пространстве \((\Omega , \mathcal{F}, \mathbb {P})\), стох. эквивалентных в широком, но не в узком смысле.
Докажите, что из стох. эквивалентности в узком смысле следует стох. эквивалентность в широком смысле.
Определения эквивалентных в узком смысле и неразличимых процессов очень похожи. Попробуем разобраться, в чем между ними разница. Заметим, что если \(X,Y\) неразличимы, то
\[
\begin{align} 1 & = \mathbb {P}\left(\forall t \in T \; X_t = Y_t\right) \\ & = \mathbb {P}\left(\bigcap _{t \in T}\left\{ X_t = Y_t\right\} \right) \\ & \overset {*}{\leq } \mathbb {P}\left(X_{t'} = Y_{t'}\right), \; \forall t' \in T \end{align}
\]
Неравенство, помеченное звездочкой, выполнено, только если выполнено техническое условие: событие \(X_{t'} = Y_{t'}\) в принципе измеримо, т.е. \(\left\{ X_{t'} = Y_{t'}\right\} \in \mathcal{F}\). Заметим, что если \((\mathsf{S}, \mathscr {B}) = (\mathbb {R}^{n}, \mathscr {B}\left(\mathbb {R}^{n}\right))\) (как в большинстве примеров нашего курса) или если ВП \((\Omega , \mathcal{F}, \mathbb {P})\) полное, это условие выполнено для любого \(t' \in T\). Таким образом, в подавляющем большинстве примеров из курса если \(X,Y\) неразличимы, то они стохастически эквивалентны в узком смысле.
Приведем пример стохастически эквивалентных процессов, не являющихся неразличимыми.
Пусть \((\Omega , \mathcal{F}, \mathbb {P}) = ([0,1], \mathscr {B}\left([0,1]\right), \lambda )\), где \(\lambda\) – мера Бореля. Пусть \(T = [0,1]\). Пусть \[
X(t,\omega ) = 0, \; Y(t, \omega ) \equiv \; \mathbb {1}_{\left\{ t = \omega \right\} },
\] \(\forall t \in [0,1], \omega \in [0,1]\). Докажите, что \(X,Y\) – стохастически эквивалентные (в узком смысле) случайные процессы. Докажите, что при этом они не являются неразличимыми, т.е. у них не совпадают траектории с вероятностью \(1\).
Стохастическая эквивалентность в узком смысле: для любого фиксированного \(t \in [0,1]\)
\[
\mathbb {P}\left(X_t = Y_t\right) = \mathbb {P}\left(\omega \; : \; \omega \neq t\right) = 1 - \lambda \left(\left\{ t\right\} \right) = 1
\]
Неразличимости при этом нет:
\[
\left\{ X = Y\right\} = \left\{ \omega \; : \; Y(t, \omega ) = 0 \; \; \forall t \in [0,1]\right\} = \varnothing ,
\]
ведь для каждого \(\omega\) траектория \(Y(\cdot , \omega )\) равна \(1\) в точке \(t = \omega\). Итого \(\mathbb {P}\left(X = Y\right) = 0 \neq 1\).
Заметьте, что у этих процессов ни одна пара траекторий не совпадает.
Пример модификации без неразличимости: \(X \equiv 0\) (синие траектории) и \(Y(t,\omega) = \mathbb{1}\{t=\omega\}\) (красные) как функции двух переменных \((\omega, t)\). Серая полупрозрачная плоскость — уровень \(z=0\). У каждой красной траектории открытый кружок отмечает выколотую точку \(t=\omega\) на уровне \(0\), закрашенный кружок — значение \(1\) там же; точки-единицы лежат на диагонали \(t=\omega\) (пунктир). При фиксированном \(t\) процессы совпадают п.н., но ни одна пара траекторий не совпадает целиком.
Недостатки цилиндрической сигма-алгебры
Если \(T\) – бесконечно, то принадлежность отображения \(y \in \mathsf{S}^T\) множеству \(B \in \mathscr {B}^{T}\) определяется только ее значениями на некотором счетном подмножестве \(U \subset T\). Т.е. для любого фиксированного \(B \in \mathscr {B}^{T}\) существует не более чем счетный набор точек \(\left\{ t_i\right\} = U \subset T\), такой, что если \(f \in B\) и другая функция \(g\) совпадает с \(f\) в этих точках
\[
f(t_i) = g(t_i), \quad \forall t_i \in U,
\]
то тогда \(g\) тоже в \(B\): \(g \in B\).
Пусть \(T=[0,1],\left(\mathsf{S}, \mathscr {B}\right)=(\mathbb {R}, \mathscr {B}\left(\mathbb {R}\right))\). Тогда пространство траекторий \(\mathsf{S}^T= \mathbb {R}^{[0,1]}\) – это пространство вещественных функций на \([0,1]\). Пусть \(\alpha \in \mathbb {R}\) – произвольное, пусть \[
M_\alpha = \left\{ y \in \mathbb {R}^{[0,1]}: \sup _{t \in [0,1]}y(t) \leq \alpha \right\} .
\] Докажите, что \(M_\alpha \not\in \mathcal{B}^{[0,1]}\).
Предположим, что \(M_\alpha \in \mathscr {B}^{[0,1]}\). Тогда, по сказанному выше, найдется счетное множество \(U \subset [0,1]\), такое что принадлежность функции множеству \(M_\alpha\) определяется лишь ее значениями на \(U\). Возьмем \(f \equiv \alpha\) (очевидно, \(f \in M_\alpha\)) и точку \(t_0 \in [0,1] \setminus U\) (она существует, поскольку \(U\) счетно, а \([0,1]\) несчетен). Функция \[
g(t) = \begin{cases} \alpha , & t \neq t_0 \\ \alpha + 1, & t = t_0 \end{cases}
\] совпадает с \(f\) на \(U\), а значит, тоже должна лежать в \(M_\alpha\). Но \(\sup_{t} g(t) = \alpha + 1 > \alpha\) – противоречие.
Упражнение. Пусть \(T=[0,1],\left(\mathsf{S}, \mathscr {B}\right)=(\mathbb {R}, \mathscr {B}\left(\mathbb {R}\right))\). Тогда пространство траекторий \(\mathsf{S}^T= \mathbb {R}^{[0,1]}\) – пространство вещественных функций на \([0,1]\). Докажите, что \(C[0,1] \not\in \mathcal{B}^{T}\).
Аналогично предыдущему примеру. Пусть \(C[0,1] \in \mathscr {B}^{[0,1]}\), и пусть \(U\) – соответствующее счетное множество точек. Возьмем \(f \equiv 0 \in C[0,1]\), точку \(t_0 \in [0,1] \setminus U\) и функцию \(g = \; \mathbb {1}_{\left\{ t_0\right\} }\), совпадающую с \(f\) на \(U\). Тогда \(g\) должна была бы тоже лежать в \(C[0,1]\), но \(g\) разрывна в точке \(t_0\) – противоречие.
2 предыдущих примера говорят о том, что если мы заведомо ничего не знаем о траекториях действительнозначного процесса \((X_t: t \in T)\), \(T = [0,1]\) (или \(\mathbb {R}\)), то мы не всегда сможем определить, с какой вероятностью \(\mathbb {P}\left(\sup_t X \leq \alpha \right) = \mathbb {P}\left(X^{-1}(M_\alpha )\right)\) траектории будут ограничены сверху каким-то числом \(\alpha \in \mathbb {R}\), или с какой вероятностью \(\mathbb {P}\left(X \in C[0,1]\right) = \mathbb {P}\left(X^{-1}(C[0,1])\right)\) траектории будут непрерывными. Так происходит, поскольку множества \(M_\alpha , C[0,1]\) не входят в цилиндрическую сигма-алгебру \(\mathscr {B}^{[0,1]}\), а значит нельзя точно говорить о том, что \(X^{-1}(M_\alpha )\) или \(X^{-1}(C[0,1])\) входят в \(\mathcal{F}\), несмотря на то, что само отображение \(X: (\Omega , \mathcal{F}, \mathbb {P}) \to (\mathbb {R}^{[0,1]}, \mathscr {B}^{[0,1]})\) является измеримым. Следующие 2 задачи раскрывают этот момент.
- Покажите, что для одной и той же случайной функции мы в каких-то случаях можем измерять ее попадание в множество не из цил. сигма-алгебры, а в каких-то случаях не можем. Иначе говоря, приведите пример вероятностного пространства \((\Omega , \mathcal{F}, \mathbb {P})\), случайной функции \(X\) на нем и подмножеств траекторий \(G_1,G_2 \subset \mathbb {R}^{T}\), таких что
\[
\begin{array}{ll} G_1 \not\in \mathscr {B}^T \qquad & G_2 \not\in \mathscr {B}^T \\ \left\{ X \in G_1\right\} \in \mathcal{F}\qquad & \left\{ X \in G_2\right\} \notin \mathcal{F} \end{array}
\]
- Покажите, что для одного и того же множества траекторий не из цил. сигма-алгебры для какой-то случайной функции мы можем измерять вероятность ее попадания в это множество, а для какой-то другой – нет. Иначе говоря, приведите пример вероятностного пространства \((\Omega , \mathcal{F}, \mathbb {P})\), двух случайных функций \(X\) и \(Y\) на нем и множества \(G \notin \mathcal{B}^{T}\) такого, что \(\{ X \in G\} \in \mathcal{F}, \; \{ Y \in G\} \notin \mathcal{F}\).
Возьмите в обоих пунктах \(\Omega = T = [0,1]\), \((\mathsf{S}, \mathscr {B}) = (\mathbb {R}, \mathscr {B}\left(\mathbb {R}\right))\), а в качестве \(\mathcal{F}\) – сигма-алгебру счетных и косчетных подмножеств \([0,1]\).
\(G_1 = M_1, \; G_2 = C[0,1]\).
\(G = C[0,1], \; X \equiv 0\).
Таким образом, не всегда можно говорить о вероятности попадания процесса в множество, не входящее в цилиндрическую \(\sigma\)-алгебру. При этом оказывается, что даже если это и возможно, то вероятность попадания в такое множество не обязана определяться конечномерными распределениями процесса:
Приведите пример вероятностного пространства \((\Omega , \mathcal{F}, \mathbb {P})\), двух стохастически эквивалентных в узком смысле случайных функций \(X\) и \(Y\) на нем и множества \(G \notin \mathcal{B}^{T}\) такого, что \(\left\{ X \in G\right\} , \left\{ Y \in G\right\} \in \mathcal{F}\), но при этом \(\mathbb {P}\left(X \in G\right) \neq \mathbb {P}\left(Y \in G\right)\).
Возьмите \((\Omega , \mathcal{F}, \mathbb {P}) = ([0,1], \mathscr {B}\left([0,1]\right), \lambda )\), \((\mathsf{S}, \mathscr {B}) = (\mathbb {R}, \mathscr {B}\left(\mathbb {R}\right))\), \(T = [0,1]\), \(G = C[0,1]\), \(X \equiv 0\).
Построение случайной функции с заданным распределением и с хорошими траекториями
Как видно из рассуждений и задач выше, у процессов с одинаковым распределением на пространстве \((\mathsf{}^T, \mathscr {B}^T)\) могут очень сильно различаться траектории. Собственно, теорема Колмогорова особо ничего и не говорит про траектории, она только строит распределение по конечномерным проекциям. На практике же всё-таки хочется получать процесс с хорошими траекториями.
Непрерывные траектории
Пусть для простоты \(T = [0,1]\) (можно взять \(\mathbb {R}_+\) или \(\mathbb {R}\), выкладки в этом разделе не изменятся).
Пусть все (или почти все) траектории процесса \(X(\omega ) = X(t,\omega )\) непрерывны, т.е. \(\mathbb {P}\left(\omega \in \Omega : X(\omega ) \in C[0,1]\right) = 1\). Цилиндрическую \(\sigma\)-алгебру в пространстве \(C[0,1]\) обозначим \(C[0,1] \cap \mathscr {B}^{[0,1]}\) и определим как пересечение элементов цилиндрической сигма-алгебры \(\mathscr {B}^{[0,1]}\) над \(\mathbb {R}^{[0,1]}\) с \(C[0,1]\):
\[
C[0,1] \cap \mathscr {B}^{[0,1]} := \left\{ C[0,1] \cap B: \; B \in \mathscr {B}^{[0,1]}\right\}
\]
Несложно доказать, что это действительно сигма-алгебра, причем она порождается пересечением цилиндров с \(C[0,1]\):
\[
\begin{align} C[0,1] \cap \mathscr {B}^{[0,1]} & = \\ & \quad \sigma \left(\left\{ C[0,1] \cap \pi ^{-1}_{t_1,\ldots ,t_n}(B) \; : \; n \in \mathbb {N}, \; 0 \leq t_1 < \ldots < t_n \leq 1, \; B \in \mathscr {B}^n\right\} \right) \end{align}
\tag{1}\]
Напомним, что на \(C([0,1])\) есть еще одна сигма-алгебра – борелевская сигма-алгебра \(\mathscr {B}\left(C[0,1]\right)\), порожденная открытыми шарами в супремум-метрике
\[
\rho (f', f'') = \sup \limits _{t \in [0,1]} \left|f'(t) - f''(t)\right|.
\]
Оказывается, верна следующая лемма.
Лемма 2 На \(C[0,1]\) борелевская сигма-алгебра \(\mathscr {B}\left(C[0,1]\right)\) и цилиндрическая сигма-алгебра совпадают: \[
\mathscr {B}\left(C[0,1]\right) = C[0,1] \cap \mathscr {B}^{[0,1]}
\]
Получаем следующий результат.
Теорема 4 Пусть \(X = (X_t, t \in [0,1])\) – такой действительный случайный процесс, что почти все его траектории непрерывны, т.е. \(\mathbb {P}\left(X \in C[0,1]\right) = 1\). Тогда процесс \(X\) является \(\mathcal{F}|\mathscr {B}\left(C[0,1]\right)\)-измеримым как отображение \[
X: (\Omega , \mathcal{F}) \to (C[0,1], \mathscr {B}\left(C[0,1]\right)).
\]
Пусть \(X = (X_t, t \in [0,1])\) – действительный случайный процесс с п.н. непрерывными траекториями. Докажите, что в этом случае \[
\left\{ \sup _{t \in [0,1]} X(t) \leq \alpha \right\} = \left\{ X \in M_\alpha \right\} = X^{-1}(M_\alpha ) \in \mathcal{F}, \; \forall \alpha \in \mathbb {R}.
\]
Примечание. Данная задача показывает, что если мы имеем п.н. непрерывный процесс \(X\), мы свободно можем находить вероятность его траекториям не превосходить произвольного уровня \(\alpha\).
Напомним, что теорема Колмогорова о существовании позволяла строить процесс с заранее заданными согласованными конечномерными распределениями со значениями в произвольном борелевском пространстве, например, в пространстве \((\mathbb {R},\mathscr {B}\left(\mathbb {R}\right))\). Однако эта теорема ничего не говорила о траекториях этого процесса. Получить непрерывные траектории для процесса помогает следующая теорема, доказанная также Колмогоровым.
Теорема 5 (Колмогорова о непрерывной модификации) Пусть \(X = (X_t, t \in T)\), где \(T = [0,1]\) или \(\mathbb {R}_+\) или \(\mathbb {R}\) – действительный случайный процесс такой, что найдутся такие \(\alpha , \varepsilon > 0\), \(C = C(\alpha , \varepsilon ) > 0\), что \[
\mathbb {E}\left[\left|X_t - X_s\right|^\alpha \right] \leq C \left|t-s\right|^{1 + \varepsilon }, \quad \forall t,s \in T.
\tag{2}\] Тогда у процесса \(X\) существует непрерывная версия (модификация).
Напомним, что \(Y = (Y_t)\) – модификация процесса \(X = (X_t)\), если они п.н. совпадают в каждой точке \(t \in T\): \(\mathbb {P}\left(X_t = Y_t\right) = 1\), \(\forall t \in T\). Данная теорема говорит о том, что если распределение процесса \(X = (X_t)\) удовлетворяет условию Уравнение 2 (т.е. матожидания приращений процесса в некотором смысле ограничены приращениями по аргументу), то данный процесс всегда можно в каждой точке \(t\) “слегка” переопределить (т.е. переопределить на множестве меры нуль) так, чтобы у новой версии процесса были п.н. непрерывные траектории.
Докажите, что у стационарного пуассоновского процесса \(\left(X_{t}, t \geq 0\right)\) интенсивности \(\lambda >0\) не существует непрерывной модификации, т.е. модификации, у которой все траектории непрерывны.
Пользуясь предыдущим пунктом покажите, что если в условии (Уравнение 2) положить \(\varepsilon = 0\), то теорема, вообще говоря, не обязательно будет выполнена.
Càdlàg траектории
Càdlàg – это сокращение от французского continue à droite, limite à gauche, непрерывна справа с конечными пределами слева. Процессы с такими траекториями часто встречаются в теории случайных процессов и в стохастическом исчислении. Теория случайных процессов во второй половине XX века активно развивалась во Франции, поэтому для краткого обозначения таких траекторий принято использовать сокращение из французского языка. Все возможные càdlàg траектории на \(T\) называются пространством Скорохода на \(T\) и обозначаются
\[
D(T)
\]
Пространство \(D(T)\), как и \(C(T)\), обладает массой хороших свойств. Чтобы не перегружать изложение, мы их не будем приводить. Подробнее можно почитать в (Биллингсли 1977 г.). Здесь же мы приведем некоторый аналог теоремы Колмогорова о непрерывной модификации.
Теорема 6 (О неубывающей càdlàg модификации) Пусть \(X=\left(X_{t}, t \geq 0\right)\) – случайный процесс, который
стохастически неубывает, т.е. \(\mathbb {P}\left(X_{s} \leq X_{t}\right) = 1\) для всех \(0 \leq s \leq t<\infty\);
непрерывен справа по вероятности: в каждой точке \(s\) полупрямой \([0, \infty )\) имеем
\[
X_t \xrightarrow [t \to s+0]{\mathbb {P}} X_s, \quad \forall s \geq 0.
\] Тогда у \(X\) существует модификация, имеющая п.н. неубывающие càdlàg траектории.
Покажите, что для неоднородного пуассоновского процесса с функцией интенсивности \(\lambda (t)\) можно получить версию с неубывающими càdlàg траекториями.
Лемма 3 Пусть \(f(x)\) – такая функция на \([0,1]\), что она не убывает по рациональным точкам. Тогда функция \(\tilde{f}(x)\), определенная как \[
\tilde{f}(x)=\lim _{r \rightarrow x+0, r \in \mathbb {Q}} f(r), \quad x \in [0,1), \qquad \tilde{f}(1) := f(1),
\] является непрерывной справа и неубывающей.
использованная литература
Gushchin, Alexander A. 2015 г. Stochastic calculus for quantitative finance. Elsevier.
Биллингсли, П. 1977 г. Сходимость вероятностных мер. Наука.