Типичные траектории броуновского движения: непрерывные, нигде не дифференцируемые (см. ниже в конспекте свойства траекторий) функции
Винеровский процесс, гауссовские процессы
Этот конспект ещё находится в процессе редактуры: в тексте могут встречаться опечатки, неточности и локально не проработанные места. Если что-то нашли — сообщите, пожалуйста, автору (контакты на странице курса).
1 Гауссовские процессы
Напомним, что распределение гауссовского вектора однозначно определяется его математическим ожиданием и матрицей ковариацией. Значит, конечномерные распределения гауссовской функции однозначно определяются функцией среднего и ковариационной функцией. Какими же свойствами должны обладать эти функции, чтобы такая сл. функция существовала? Функция среднего может быть произвольной, а вот ковариационная функция обязана обладать свойством неотрицательной определенности.
Выражение слева можно переписать в виде
\[ \overrightarrow {x}^T \cdot \left(f(t_i,t_j)\right) \cdot \overrightarrow {x} \qquad \text{ или } \qquad \sum _{i,j = 1}^{n} f(t_i, t_j)x_ix_j \]
Оказывается, неотрицательная определенность и симметричность являются не только необходимыми, но и достаточными для того, чтобы функция была ковариационной для некоторого случайного процесса. Следующая теорема говорит о том, что подобный процесс может быть выбран даже гауссовским.
Отметим, что пример можно решить и по-другому, явно предъявив случайный процесс c ковариационной функцией \(\min (s, t)\). Подобным процессом служит пуассоновский процесс интенсивности 1. Вторым подходящим процессом (который, как мы увидим ниже, в отличие от пуассоновского процесса, гауссовский) является винеровский процесс, также называемый процессом броуновского движения.
2 Винеровский процесс: введение
2.1 Винеровский процесс – процесс с независимыми приращениями
У винеровского процесса есть несколько определений. Одно из них следующее: это выходящий из нуля процесс с независимыми приращениями, имеющими распределение \(\mathscr {N}\left(0, t-s\right)\). Как правило, в определение еще включают непрерывность траекторий. Формально:
Модель винеровского процесса впервые была предложена Л. Башелье в 1903 году для моделирования колебаний курсов акций на бирже. С того времени данный процесс стал одним из центральных в теории вероятностей, он активно применяется для моделирования хаотического движения.
200 смоделированных траекторий броуновского движения на [0,1]; цвет каждой траектории соответствует её конечному значению W₁. Справа — гистограмма распределения конечных значений по тем же цветовым интервалам.
Некоторые способы доказать эту теорему, получить винеровский процесс можно увидеть в разделе Глава 4.
2.2 Винеровский процесс – это гауссовский процесс
Раз винеровский процесс является гауссовским, то важно вычислить его ковариационную функцию и функцию среднего.
Гауссовость винеровского процесса позволяет сформулировать его второе эквивалентное определение.
Второе определение через гауссовость зачастую удобнее для проверки того, что некоторый процесс является винеровским. Проверить гауссовость часто бывает проще, чем проверить независимость приращений.
3 Винеровский процесс: свойства траекторий
Строгие доказательства основных фактов из данного раздела можно найти в (Булинский и Ширяев 2005 г., III).
3.1 Локальные свойства траекторий
По определению винеровского процесса у него п.н. непрерывные траектории. На тех исходах, где траектории все таки разрывные, процесс можно переопределить нулем. Конечномерные распределения от этого не изменятся, зато теперь все траектории будут непрерывными. Когда все траектории непрерывны, это немного упрощает понимание.
Доказательство этой теоремы непростое, можно найти в (Булинский и Ширяев 2005 г., III,§ 1).
Таким образом, винеровский процесс действительно моделирует хаотическое движение: его типичная траектория непрерывна, но совсем не гладкая (подобно функции Вейерштрасса).
Углубим понимание непрерывности траекторий.
Напомним, что функция \(f: \mathbb {R}_+ \to \mathbb {R}\) называется непрерывной по Гельдеру на множестве \(A \subset \mathbb {R}_+\) с показателем \(\gamma > 0\), если существует константа \(C > 0\), что
\[ \left|f(x) - f(y)\right| \leq C \cdot \left|x - y\right|^{\gamma } \]
для всех \(x,y \in A\).
3.2 Вариация траекторий
Подробности в (Schilling 2021 г., Chapter 9).
Вспомним определение \(p\)-вариации: пусть \(f:[0, \infty ) \rightarrow \mathbb {R}^d\) — (неслучайная) функция, и пусть
\[ \Delta = \left\{ t_0, t_1, \ldots , t_n\right\} , \qquad \text{причем } \qquad 0 = t_0 < t_1 < \ldots < t_{n} = t \]
– конечное разбиение интервала \([0, t]\). Через \(\left|\Delta \right|:=\max_{1 \leqslant j \leqslant n}\left(t_j-t_{j-1}\right)\) мы обозначаем диаметр разбиения. Для \(p>0\) пусть
\[ Q_p(f, [0,t], \Delta ) := \sum _{i=1}^{n}\left|f(t_i) - f(t_{i-1})\right|^p \]
– это сумма \(p\)-вариаций по разбиению \(\Delta\). Супремум по всем конечным разбиениям – это сильная или полная \(p\)-вариация функции \(f\) на отрезке \([0,t]\):
\[ \operatorname {VAR}_p(f, \; [0,t]) := \sup _{\Delta } Q_p(f, [0,t], \Delta ) \]
Если \(\operatorname {VAR}_1(f ; [0, t])<\infty\), то говорят, что функция \(f\) – это функция с ограниченной или конечной (полной) вариацией.
Часто используется понятие \(p\)-вариации вдоль заданной последовательности конечных разбиений \(\left(\Delta_k\right)_{k \geqslant 1}\) области \([0, t]\) с \(\lim_{k \rightarrow \infty }\left|\Delta_k\right|=0\):
\[ \operatorname {var}^{\left\{ \Delta _k\right\} }_p(f ;[0, t]):=\lim _{\left|\Delta _k\right| \rightarrow 0} Q_p(f ;[0, t] ; \; \Delta _k) . \]
Заметим, что \(\operatorname {VAR}_p(f ;[0, t])\) всегда определено (т.е. для любых функций, для любого \(p > 0\) и для любого отрезка), в отличие от \(\operatorname {var}^{\left\{ \Delta_k\right\} }\), которое может расходиться. Хотя, конечно, \(\operatorname {VAR}_p(f ;[0, t])\) может принимать значение \(+\infty\). Если \(\operatorname {var}^{\left\{ \Delta_k\right\} }_p(f ;[0, t])\) все таки существует (вдоль какой-то последовательности разбиений \(\left\{ \Delta_k\right\}_{k \in \mathbb {N}}\) отрезка \([0,t]\)), то
\[ \operatorname {VAR}_p(f ;[0, t]) \; \geqslant \; \operatorname {var}^{\left\{ \Delta _k\right\} }_p(f ;[0, t]) \]
Когда вместо \(f(s)\) используется случайная функция \(X(s, \omega )\), то \(\operatorname {var}_p(X(\cdot , \omega ) ;[0, t])\) может быть пределом по распределению, по вероятности, в \(L^q\) и почти наверное. При этом последовательность разбиений \(\left(\Delta_k\right)_{k \geqslant 1}\) не должна зависеть от \(\omega\).
3.2.1 1-вариация
Хорошо известный результат из анализа гласит, что функция с ограниченной вариацией почти всюду дифференцируема. Поскольку из предыдущего раздела известно, что почти ни один броуновский путь нигде не дифференцируем, мы можем заключить, что траектории БД не имеют ограниченной вариации п.н.
Конечность \(1\)-вариации означает, что траектория спрямляема. Следовательно, практически ни один путь БД не является спрямляемым; то есть график имеет бесконечную длину на любом ограниченном отрезке.
Таким образом, теорема выше – лишь частный случай \(p=1\). Доказывается это уже не через недифференцируемость, а напрямую через квадратическую вариацию (см. ниже): максимум приращения по разбиению стремится к \(0\) п.н. в силу равномерной непрерывности траектории на \([0,t]\), а сумма \(p\)-вариаций при \(p=2-\delta\) оценивается сверху через (этот максимум)\(^\delta\), умноженный на сумму квадратов приращений – которая остаётся ограниченной (см. (Schilling 2021 г., Corollary 9.2)).
3.2.2 Квадратическая вариация
Мы знаем, что броуновские траектории — это непрерывные функции с плохим поведением. Они не дифференцируемы и не спрямляемы. При попытке вычислить длину траектории \(W(t), 0 \leq t \leq 1\),
\[ Q_1(W_t, [0,t], \Delta ) := \sum _{i=1}^{n}\left|W_{t_i} - W_{t_{i-1}}\right| \]
Если \(\left|\Delta \right|\) мало, то каждая отдельная разность
\[ \left|W_{t_i} - W_{t_{i-1}}\right| = \left|W_{t_i}(\omega ) - W_{t_{i-1}}(\omega )\right| \]
мала по непрерывности, но недостаточно мала, чтобы суммы сходились. Если мы уменьшим отдельные разности, скажем, возведя каждую в квадрат, то можно надеяться, что предел будет конечным.
Пусть \(\Delta = \left\{ 0=t_0 < t_1 < \ldots < t_n = t\right\}\) – разбиение отрезка \([0,t]\). Заметим, что \(t = \sum_{i=1}^{n}(t_i - t_{i-1})\). Тогда
\[ \begin{align} \mathbb {E}\left[\left(Q_2(W_t;[0,t];\Delta ) - t\right)^2\right] & = \\ & \quad \mathbb {E}\left[\left(\sum _{i=1}^{n} \left((W_{t_i} - W_{t_{i-1}})^2 - (t_i - t_{i-1})\right)\right)^2\right] = \\ & = \sum _{i=1}^{n} \mathbb {E}\left[\left((W_{t_i} - W_{t_{i-1}})^2 - (t_i - t_{i-1})\right)^2\right], \end{align} \]
где во втором равенстве мы воспользовались тем, что слагаемые \((W_{t_i} - W_{t_{i-1}})^2 - (t_i - t_{i-1})\) независимы (т.к. приращения ВП на непересекающихся интервалах независимы) и имеют нулевое среднее, поэтому все смешанные произведения при раскрытии квадрата суммы обнуляются.
Если \(X \sim \mathscr {N}\left(0, \sigma^2\right)\), то
\[ \mathbb {E}\left[(X^2 - \sigma ^2)^2\right] = \mathbb {E}\left[X^4\right] - 2 \sigma ^2 \mathbb {E}\left[X^2\right] + \sigma ^4 = 3\sigma ^4 - 2\sigma ^4 + \sigma ^4 = 2 \sigma ^4, \]
т.к. \(\mathbb {E}\left[X^4\right] = 3\sigma^4\). Применяя это к \(X = W_{t_i} - W_{t_{i-1}} \sim \mathscr {N}\left(0, t_i - t_{i-1}\right)\), получаем
\[ \begin{align} \mathbb {E}\left[\left(Q_2(W_t;[0,t];\Delta ) - t\right)^2\right] & = \sum _{i=1}^{n} 2 (t_i - t_{i-1})^2 \leq \\ & \leq 2\left|\Delta \right| \sum _{i=1}^{n} (t_i - t_{i-1}) = 2\left|\Delta \right| \cdot t \xrightarrow [\left|\Delta \right| \to 0]{} 0. \end{align} \]
Теорема выше даёт сходимость \(Q_2(W_t;[0,t];\Delta ) \to t\) в \(L^2\) вдоль произвольной последовательности разбиений с \(\left|\Delta_k\right|\to 0\). Для сходимости почти наверное произвольной последовательности уже недостаточно – нужны дополнительные условия на то, как устроены разбиения. Ниже – три достаточных условия разной природы (без доказательств, см. (Schilling 2021 г., 9.2)).
Доказывается через неравенство Чебышёва (та же оценка \(\mathbb {P}\left(\left|Q_2(\Delta )-t\right|>\varepsilon \right)\), что и в доказательстве теоремы выше) и лемму Бореля-Кантелли: раз \(\sum_k \left|\Delta_k\right|<\infty\), то и \(\sum_k \mathbb {P}\left(\left|Q_2(\Delta_k)-t\right|>\varepsilon \right) < \infty\) для каждого \(\varepsilon >0\).
Доказательство сложнее (экспоненциальные моменты и подбор параметра в духе неравенства Чернова), но по сути тот же метод: оценить вероятности уклонения и просуммировать по Борелю-Кантелли.
Здесь идея другая: величины \(Q_2(\Delta_k)\), если смотреть на них в обратном порядке (\(k \to \infty\) вместо \(k \to 1\)), образуют обратный мартингал, а для обратных мартингалов есть своя теорема о п.н. сходимости.
Важно не путать \(\operatorname {var}_2^{\{ \Delta_k\} }\) вдоль конкретной последовательности разбиений (то, что обсуждалось выше – предел всегда равен \(t\)) с сильной вариацией \(\operatorname {VAR}_2\) – супремумом по всем разбиениям, включая разбиения, зависящие от \(\omega\). Это принципиально разные вещи:
Вот и обещанный пример строгого неравенства \(\operatorname {VAR}_p > \operatorname {var}_p^{\{ \Delta_k\} }\) из самого начала параграфа: вдоль “хороших” последовательностей \(\operatorname {var}_2 = t < \infty\), но супремум по всем разбиениям равен \(+\infty\). Смысл: если разбиение подбирать под конкретную траекторию (а не фиксировать заранее), всегда найдутся “быстрые” участки, где приращение накапливается быстрее, чем \(\sqrt{\text{длина}}\).
То есть, играя разбиениями, квадратическую вариацию одной и той же траектории можно “подогнать” как угодно – хоть к \(0\), хоть к \(+\infty\). Только для заранее фиксированных (не подстроенных под \(\omega\)) разбиений ответ всегда один и тот же – \(t\) (три теоремы выше).
Доказательство почти дословно повторяет доказательство теоремы для ВП: вместо независимости приращений используется мартингальность (условное мат. ожидание произведения “непересекающихся” приращений всё равно зануляется по башенному свойству).
Это обращение факта из следствия Следствие 3: свойство “квадратическая вариация линейна и равна \(t\)” не просто следствие того, что процесс – ВП, а его полная характеризация среди непрерывных мартингалов. Именно эта теорема лежит в основе многих конструкций в стохастическом анализе – например, доказательств того, что тот или иной стохастический интеграл или предел процессов является винеровским.
3.3 Предельные свойства траекторий
3.3.1 ЗБЧ
Приведем аналог закона больших чисел (ЗБЧ) для винеровского процесса: при \(t > 0\) имеем
\[ \frac{W_t}{t} \sim \mathscr {N}\left(0, \frac{t}{t^2}\right) = \mathscr {N}\left(0, \frac{1}{t}\right) \xrightarrow [t \to \infty ]{} 0 \]
Значит
\[ \frac{W_t}{t} \xrightarrow [t \to \infty ]{\mathbb {P}, d} 0 \]
Более того, оказывается верным усиленный (траекторный) ЗБЧ:
3.3.2 ЦПТ
С другой стороны, для винеровского процесса можно сформулировать аналог центральной предельной теоремы (ЦПТ): при \(t > 0\) имеем \(\frac{W_t}{\sqrt{t}} \sim \mathscr {N}\left(0, 1\right)\). Т.е. можно записать \(\frac{W_t}{\sqrt{t}} \xrightarrow [t \to \infty ]{d} \mathscr {N}\left(0, 1\right)\). Но что происходит с траекториями \(\frac{W_t}{\sqrt{t}}\)?
Как следствие получаем, что \(\frac{W_t}{\sqrt{t}}\) не может сходиться п.н., т.е. не существует такой случ. вел. \(\xi\), такой что \(\frac{W_t}{\sqrt{t}} \xrightarrow [t \to +\infty ]{\text{п.н.}} \xi\). Оказывается, это верно и для сходимости по вероятности.
3.3.3 Закон повторного логарифма
Закон повторного логарифма – это утверждение, работающее “между” аналогом закона больших чисел (ЗБЧ) для винеровского процесса и аналогом центральной предельной теоремы (ЦПТ) для винеровского процесса.
Доказательство закона повторного логарифма достаточно сложное, его можно найти в (Булинский и Ширяев 2005 г., III, § 11). Здесь же мы обсудим его смысл.
Согласно этой теореме почти все траектории винеровского процесса остаются внутри расширяющейся “трубы” между кривыми \(\pm (1 + \varepsilon )\sqrt{2t \ln \ln (t)}\) (для любого \(\varepsilon > 0\), начиная с некоторого \(t_0(\varepsilon , \omega )\)). В то же время с вероятностью 1 они бесконечно часто “выскакивают” из “трубы” с границей \(\pm (1 - \varepsilon )\sqrt{2t \ln \ln (t)}\).
Одна траектория винеровского процесса (лог-шкала по t) и труба ±(1±ε)√(2t ln ln t). Согласно закону повторного логарифма, начиная с некоторого t₀(ε,ω), траектория остаётся внутри внешней трубы (сплошная), но бесконечно часто выходит за внутреннюю (пунктир) — двигайте слайдер ε, чтобы увидеть это для разных ε > 0.
Попробуем свести все имеющиеся у нас предельные свойства винеровского процесса в одну таблицу.
| Тип сходимости (в порядке ослабления) | ||||
| Сходимость потраекторная, т.е. п.н. | Сходимость по вероятности | Сходимость по распределению | ||
| Скалир. функции (в порядке доминирования) | \(\displaystyle t\) | \(\displaystyle \overset{\text{п.н.}}{\lim_{t\to+\infty}}\ \frac{W_t}{t}=0\) | \(\displaystyle \overset{\mathbb P}{\lim_{t\to+\infty}}\ \frac{W_t}{t}=0\) | \(\displaystyle \overset{d}{\lim_{t\to+\infty}}\ \frac{W_t}{t}=0\) |
| \(\displaystyle \sqrt{t}\times\sqrt{2\ln\ln(t)}\) | \(\displaystyle \overset{\text{п.н.}}{\lim_{t\to+\infty}}\ \frac{W_t}{\sqrt{2t\ln\ln(t)}}=[-1,1]\) | \(\displaystyle \overset{\mathbb P}{\lim_{t\to+\infty}}\ \frac{W_t}{\sqrt{2t\ln\ln(t)}}=0\) | \(\displaystyle \overset{d}{\lim_{t\to+\infty}}\ \frac{W_t}{\sqrt{2t\ln\ln(t)}}=0\) | |
| \(\displaystyle \sqrt{t}\) | \(\displaystyle \nexists\,\xi:\ \overset{\text{п.н.}}{\lim_{t\to+\infty}}\ \frac{W_t}{\sqrt{t}}=\xi\) | \(\displaystyle \nexists\,\xi:\ \overset{\mathbb P}{\lim_{t\to+\infty}}\ \frac{W_t}{\sqrt{t}}=\xi\) | \(\displaystyle \overset{d}{\lim_{t\to+\infty}}\ \frac{W_t}{\sqrt{t}}=\mathcal N(0,1)\) | |
Таблица 1.1: Предельные свойства винеровского процесса. WARNING! Нестандартное обозначение! Выражение \(\lim_{t\to+\infty} g(t) = A\) для некоторой функции \(g:\mathbb{R}_+\to\mathbb{R}\) и для множества \(A\subset\mathbb{R}\) означает, что \(A\) – множество всех предельных точек \(g(t)\) при \(t\to+\infty\).
Обсудим с иного ракурса смысл закона повторного логарифма. Если в ЗБЧ мы скалировали винеровский процес функцией \(t\), а в ЦПТ функцией \(\sqrt{t}\), то здесь мы винеровский процесс делим на функцию \(\sqrt{2t \ln \ln (t)}\). Заметим, что \(t \gg \sqrt{2t \ln \ln (t)} \gg \sqrt{t}\) при \(t \to +\infty\), т.е.
\[ \sqrt{2t \ln \ln (t)} = o\left(t\right), \quad \sqrt{t} = o\left(\sqrt{2t \ln \ln (t)}\right) \quad \text{при } \; t \to +\infty . \]
20 траекторий винеровского процесса и три скалирующие функции: t (чёрный, штрихпунктир), √(2t ln ln t) (оранжевый) и √t (серый). Двигайте слайдер T: чем длиннее горизонт, тем заметнее t = o-большое от пучка, а пучок сам растёт как √t, идя вдоль √(2t ln ln t).
Далее, заметим, что если \(f(t) = o\left(\sqrt{2t \ln \ln (t)}\right)\) – некоторая положительная функция, доминируемая \(\sqrt{2t \ln \ln (t)}\), то из закона повторного логарифма вытекает
\[ \begin{align} \frac{W_t}{f(t)} & = \underbrace{\frac{\sqrt{2t \ln \ln (t)}}{f(t)}}_{\to +\infty \text{ п.н.}} \underbrace{\frac{W_t}{\sqrt{2t \ln \ln (t)}}}_{\to [-1,1] \text{ п.н.}} \\ & \quad \xrightarrow [t \to +\infty ]{\text{п.н.}} \mathbb {R} \end{align} \]
Если же \(g(t)\) – некоторая положительная функция, доминирующая \(\sqrt{2t \ln \ln (t)}\), т.е. \(\sqrt{2t \ln \ln (t)} = o\left(g(t)\right)\), то
\[ \begin{align} \frac{W_t}{g(t)} & = \underbrace{\frac{\sqrt{2t \ln \ln (t)}}{g(t)}}_{\to 0 \text{ п.н.}} \underbrace{\frac{W_t}{\sqrt{2t \ln \ln (t)}}}_{\to [-1,1] \text{ п.н.}} \\ & \quad \xrightarrow [t \to +\infty ]{\text{п.н.}} 0. \end{align} \]
Таким образом, при \(t \to +\infty\) функция \(\sqrt{2t \ln \ln (t)}\) – именно та функция между \(\sqrt{t}\) и \(t\), при скалировании на которую траектории винеровского процесса п.н. имеют нетривиальный набор предельных точек: не \(\left\{ 0\right\}\) и не \(\mathbb {R}\).
Одна и та же траектория винеровского процесса в трёх нормировках (лог-шкала по t, начало обрезано при t < 0.4 — там все три отношения взрываются). Деление на t (чёрная) давит траекторию к нулю — это УЗБЧ. На √t (синяя) — ничего не давит, колебания остаются порядка 1. Красная W_t/√(2t ln ln t) — промежуточный режим ЗПЛ: на бесконечном горизонте именно у неё множество предельных точек [-1,1]. Двигайте слайдер T.
С другой стороны если положительная ф-я \(f(t)\) доминирует \(\sqrt{t}\), т.е. \(\sqrt{t} = o\left(f(t)\right)\), то
\[ \begin{align} \frac{W_t}{f(t)} & = \underbrace{\frac{\sqrt{t}}{f(t)}}_{\to 0} \cdot \underbrace{\frac{W_t}{\sqrt{t}}}_{ \sim \mathscr {N}\left(0, 1\right)} \\ & \quad \xrightarrow [t \to +\infty ]{d,\mathbb {P}} 0 \end{align} \]
Следовательно, при \(t \to +\infty\) функция \(\sqrt{2t \ln \ln (t)}\) – именно та функция \(f(t)\) между \(\sqrt{t}\) и \(t\), при скалировании на которую
\[ \begin{align} \frac{W_t}{f(t)} & \; \xrightarrow [t \to +\infty ]{d,\mathbb {P}} \; 0, \\ & \quad \text{ но } \quad \frac{W_t}{f(t)} \; \stackrel{\text{п.н.}}{\not\to } \; 0 \quad \text{ при } \quad t \to +\infty \end{align} \]