Характеристические функции

ПредупреждениеЧерновик

Этот конспект ещё находится в процессе редактуры: в тексте могут встречаться опечатки, неточности и локально не проработанные места. Если что-то нашли — сообщите, пожалуйста, автору (контакты на странице курса).

Характеристическая функция — это Фурье-образ распределения, и её появление в курсе продиктовано сугубо прагматически: свёртка превращается в произведение. Распределение суммы ста независимых слагаемых через свёртку — стократный интеграл; через характеристические функции — сотая степень одной функции. Добавьте сюда теорему единственности (характеристическая функция — полный паспорт распределения) и теорему непрерывности (поточечная сходимость характеристических функций равносильна слабой сходимости) — и получится главный вычислительный инструмент предельных теорем: ЦПТ в теме 9 мы докажем в пять строк. Это тот же приём, которым инженер анализирует сигнал через спектр: неудобная во временно́й области операция (свёртка фильтра) в частотной области становится умножением.

1 Определение и свойства

Определение 1 Характеристическая функция (ХФ) случайной величины \(\xi\) — \[ \varphi _\xi (t) = \mathbb {E}\left[e^{it\xi }\right] = \mathbb {E}\left[\cos (t\xi )\right] + i\, \mathbb {E}\left[\sin (t\xi )\right], \qquad t \in \mathbb {R}. \]

Определена всегда (\(\left|e^{it\xi }\right| = 1\) — интегрируемость бесплатна, в отличие от производящих функций моментов). Геометрическая интерпретация: \(e^{it\xi }\) — точка на единичной окружности, \(\varphi_\xi (t)\) — центр масс распределения, намотанного на окружность со скоростью \(t\); чем сильнее размазано распределение, тем ближе центр масс к нулю.

Утверждение 1 (свойства ХФ)  

1. \(\varphi (0) = 1\), \(\left|\varphi (t)\right| \leq 1\), \(\varphi (-t) = \overline{\varphi (t)}\); \(\varphi\) равномерно непрерывна на \(\mathbb {R}\).

2. \(\varphi_{a\xi + b}(t) = e^{itb}\varphi_\xi (at)\).

3. Если \(\xi \; \perp \! \! \! \perp \; \eta\), то \(\varphi_{\xi + \eta }(t) = \varphi_\xi (t) \, \varphi_\eta (t)\).

4. \(\varphi\) вещественна \(\iff\) распределение \(\xi\) симметрично (\(\xi \overset {d}{=} -\xi\)).

5. Если \(\mathbb {E}\left[\left|\xi \right|^k\right] < \infty\), то \(\varphi \in C^k(\mathbb {R})\) и \(\varphi^{(k)}(0) = i^k \mathbb {E}\left[\xi^k\right]\); в частности,

   \[ \varphi (t) = 1 + it\, \mathbb {E}\left[\xi \right] - \frac{t^2}{2}\mathbb {E}\left[\xi ^2\right] + o(t^2), \qquad t \to 0. \]

Пункт 3 — сердце темы (доказательство: \(\mathbb {E}\left[e^{it(\xi +\eta )}\right] = \mathbb {E}\left[e^{it\xi }\right]\mathbb {E}\left[e^{it\eta }\right]\) по независимости — тема 1). Пункт 5 — «моменты сидят в производных в нуле»: гладкость ХФ в нуле кодирует лёгкость хвостов.

Теорема 1 (единственности и обращения) Характеристическая функция однозначно определяет распределение. Если вдобавок \(\varphi \in L^1(\mathbb {R})\), то распределение имеет ограниченную непрерывную плотность \[ p(x) = \frac{1}{2\pi }\int _{\mathbb {R}} e^{-itx}\varphi (t)\, dt. \]

Теорема 2 (Бохнер–Хинчин; формулировка) Функция \(\varphi\) с \(\varphi (0)=1\) является характеристической тогда и только тогда, когда она непрерывна и неотрицательно определена: \(\sum_{j,k} \varphi (t_j - t_k) z_j \bar z_k \geq 0\) для любых \(t_j \in \mathbb {R}\), \(z_j \in \mathbb {C}\).

Стандартный набор ХФ (часть — задачи ниже, остальные проверьте):

\(\operatorname {Bern}(p)\)	\(1 - p + pe^{it}\)	\(\mathscr {N}\left(a, \sigma ^2\right)\)	\(e^{ita - \sigma ^2t^2/2}\)
\(\operatorname {Bin}(n,p)\)	\((1-p+pe^{it})^n\)	\(\operatorname {Exp}(\lambda )\)	\(\frac{\lambda }{\lambda - it}\)
\(\operatorname {Pois}(\lambda )\)	\(e^{\lambda (e^{it}-1)}\)	\(\Gamma (\alpha , \lambda )\)	\(\left(\frac{\lambda }{\lambda - it}\right)^\alpha\)
\(\operatorname {U}[-1,1]\)	\(\frac{\sin t}{t}\)	\(\operatorname {Cauchy}(0,1)\)	\(e^{-\left\|t\right\|}\)

УведомлениеЗдесь будет интерактивная иллюстрация

Интерактивная иллюстрация ещё не создана. См. исходник: /home/nedosh/Documents/online_math_notes/math-notes_FPMI_2/courses/nedosh_courses/courses/04-probability/02_PT/contents/specials/080/01_char_functions_fig.tex.

ProblemЗадача 1

Вычислите характеристические функции: (а) \(\operatorname {Pois}(\lambda )\); (б) \(\operatorname {U}[-1,1]\); (в) \(\operatorname {Exp}(\lambda )\); (г) распределения Лапласа с плотностью \(\frac{1}{2}e^{-\left|x\right|}\). Выведите из (а), что сумма независимых пуассоновских величин пуассоновская.

ProblemЗадача 2

Докажите, что характеристическая функция распределения Коши равна \(e^{-\left|t\right|}\). Выведите отсюда: если \(\xi_1, \ldots , \xi_n\) — независимые стандартные коши-величины, то \(\frac{\xi_1 + \ldots + \xi_n}{n}\) — снова стандартная коши-величина. Что это говорит о законе больших чисел?

ProblemЗадача 3

По характеристической функции восстановите распределение: (а) \(\varphi (t) = \cos t\); (б) \(\varphi (t) = \cos^2 t\); (в) \(\varphi (t) = \frac{1}{2 - e^{it}}\).

ProblemЗадача 4

Существует ли случайная величина с характеристической функцией \(\varphi (t) = e^{-t^4}\)?

ProblemЗадача 5

Пусть \(\varphi\) — характеристическая функция величины \(\xi\). Докажите, что \(\left|\varphi \right|^2\) — тоже характеристическая функция. Какой величины?