Характеристическая функция

Материал из Synset

Стохастическая зависимость <<	Оглавление	>> Многомерное распределение Гаусса

$\textstyle \bullet$ Характеристическая функция $\textstyle \Phi(k)$ является фурье-образом плотности вероятности случайной величины $\textstyle x$ :

$\Phi(k) = \int\limits^{\infty}_{-\infty} e^{\imath kx} \;P(x) \;dx,\;\;\;\;\;\;\;\;\;P(x) = \frac{1}{2\pi}\int\limits^{\infty}_{-\infty} e^{-\imath kx} \;\Phi(k) \;dk.$

С её помощью легко получать средние значения произвольных степеней $\textstyle x$ . Проведя один раз Фурье-интегрирование и найдя характеристическую функцию, можно затем простым дифференцированием определяются значения $\textstyle \left\langle x^n\right\rangle$ :

$\frac{1}{\imath^n} \frac{d^n \Phi(k)}{dk^n}\biggr|_{k=0} = \int\limits^{\infty}_{-\infty} x^n \;P(x) \;dx \;=\; \left\langle x^n\right\rangle .$

Характеристическую функцию можно записать как среднее от экспоненты: $\textstyle \Phi(k) = \left\langle e^{\imath kx}\right\rangle$ . Очевидно, что $\textstyle \Phi(0)=1$ . Коэффициенты разложения $\textstyle \Phi(k)$ в ряд по $\textstyle k$ являются средними степеней величины $\textstyle x$ :

$\Phi(k) = \left\langle e^{\imath kx}\right\rangle = \sum^\infty_{n=0} \frac{\imath^n \left\langle x^n\right\rangle }{n!} \, k^n = 1 + \imath\left\langle x\right\rangle \cdot k - \frac{1}{2}\,\left\langle x^2\right\rangle \cdot k^2 + ...$

(1.28)

Иногда мы будем рассматривать действительный вариант характеристической функции с: $\textstyle k\to k /\imath$ и называть её производящей функцией: $\textstyle \Phi(k/\imath)=\phi(k)=\left\langle e^{kx}\right\rangle$ .

$\textstyle \bullet$ Допустим, случайная величина $\textstyle y$ связана с $\textstyle x$ линейной зависимостью $\textstyle y=a+b\cdot x$ . Тогда её характеристическая функция равна:

$\Phi_y\bigl(k\bigr)=\left\langle e^{\imath k y}\right\rangle =\left\langle e^{\imath k (a+b x)}\right\rangle = e^{\imath k a} \left\langle e^{\imath k b x}\right\rangle .$

Следовательно, при линейном преобразовании появляется дополнительная фаза, и происходит масштабирование переменной $\textstyle k$ в $\textstyle \Phi$ :

$y=a+b\, x\;\;\;\;\;\;\;=>\;\;\;\;\;\;\;\Phi_y(k) = e^{\imath k a} \,\Phi_x\bigl(b \, k\bigr).$

(1.29)

Если $\textstyle b=0$ , то $\textstyle \Phi_y(k)=e^{\imath k a}$ , что, учитывая интегральное представление для дельта-функции Дирака , приводит к плотности вероятности $\textstyle P(y)=\delta(y-a)$ . Это уже не случайная величина, а детерминированная константа $\textstyle y=a$ .

$\textstyle \bullet$ Приведём примеры характеристических функций для некоторых важных распределений вероятностей:

Гаусс: $\;\;\;\;\;\;\;\;\;\;\;\;P(x)=\frac{e^{-(x-x_0)^2/2\sigma^2}}{\sigma\sqrt{2\pi}}, \;\;\;\;\;\;\;\;\;\;\;\;\;\;\;\;\Phi(k) = e^{\imath x_0 k - \sigma^2 k^2 /2}.$ Коши: $\;\;\;\;\;\;\;\;P(x)=\frac{a/\pi}{(x-x_0)^2+a^2}, \;\;\;\;\;\;\;\;\;\;\;\;\;\;\Phi(k) = e^{\imath x_0 k - a |k|}.$ Гамма: $\;\;\;\;\;\;\;\;\;\;\;P(x) = \frac{1}{\gamma\Gamma(\mu)}\; \left(\frac{x}{\gamma}\right)^{\mu - 1} \;e^{-x/\gamma}, \;\;\;\;\Phi(k) = \frac{1}{(1 - \imath \gamma k)^\mu}.$

Для нахождения $\textstyle \Phi(k)$ распределения Гаусса необходимо выделить полный квадрат в экспоненте. Функция $\textstyle \Phi(k)$ Коши проще проверяется в обратном направлении при вычислении по ней $\textstyle P(x)$ . В третьем случае по формуле гамма-функции проводится прямое интегрирование. Заметим, что характеристическая функция Коши $\textstyle \Phi(k)$ не аналитична по $\textstyle k$ и распределение не имеет конечных моментов $\textstyle \left\langle x^m\right\rangle$ при $\textstyle m>1$ .

$\textstyle \bullet$ Рассмотрим два независимых случайных числа $\textstyle x$ , $\textstyle y$ с произвольными распределениями $\textstyle P_1(x)$ , $\textstyle P_2(y)$ и их сумму $\textstyle z=x+y$ . Найдем плотность вероятности $\textstyle P(z)$ для случайной величины $\textstyle z$ . Для этого вычислим среднее от произвольной функции (пределы от $\textstyle -\infty$ до $\textstyle \infty$ ):

$\left\langle F(z)\right\rangle = \int F(x+y) \;P_1(x)P_2(y) \;dx\,dy = \int F(z) \;\underbrace{P_1(x)P_2(z-x)\;dx}_{P(z)} \,dz,$

где сделана замена $\textstyle y=z-x$ . Поэтому

$P(z) = \int\limits \;P_1(x)P_2(z-x) \;dx.$

Характеристическая функция суммы двух независимых величин равна произведению их характеристических функций:

$\Phi_z(k) = \left\langle e^{\imath k(x+y)}\right\rangle = \left\langle e^{\imath kx}\right\rangle \left\langle e^{\imath ky}\right\rangle = \Phi_x(k)\,\Phi_y(k),$

где мы воспользовались фактом независимости $\textstyle x$ и $\textstyle y$ . Понятно, что и в общем случае $\textstyle n$ независимых случайных величин $\textstyle x_i$ производящая функция их суммы будет равна произведению производящих функций каждого слагаемого:

$z=x_1+...+x_n\;\;\;\;\;\;\;\;\;\;\;=>\;\;\;\;\;\;\;\;\;\;\;\Phi_z(k) = \Phi_1(k)\cdot..\cdot \Phi_n(k).$

Если распределения каждого $\textstyle x_i$ одинаковые, то $\textstyle \Phi_z(k)=\Phi^n(k)$ . Теперь можно показать что Гаусс, Коши и гамма — бесконечно делимы.

$\textstyle \bullet$ При изучении случайных процессов мы будем активно использовать факт бесконечной делимости нормального распределения. В частности, если $\textstyle \varepsilon_1$ ,..., $\textstyle \varepsilon_n$ — независимые гауссовы величины с нулевым средним и единичной дисперсией $\textstyle \varepsilon_i\sim N(0,1)$ , то их сумма также гауссова:

$\varepsilon_1+...+\varepsilon_n = \varepsilon\, \sqrt{n}.$

Множитель $\textstyle \sqrt{n}$ выделен для того, чтобы $\textstyle \varepsilon\sim N(0,1)$ . В результате $\textstyle \varepsilon_i$ и $\textstyle \varepsilon$ имеют одинаковое распределение с одинаковыми параметрами (среднее, моменты, и т.д.). Характеристическая функция для величины $\textstyle \varepsilon$ удовлетворяет уравнению $\textstyle \Phi(k)^n=\Phi(\sqrt{n}\, k)$ и равна $\textstyle \Phi(k)=e^{-k^2/2}$ .

В общем случае распределение $\textstyle P(x)$ называют устойчивым, если для любого $\textstyle n$ существуют такие константы $\textstyle a_n$ и $\textstyle b_n$ , что

$x_1+...+x_n = a_n + b_n \,x,$

(1.31)

где $\textstyle x_1,...,x_n$ и $\textstyle x$ имеют одинаковое распределение $\textstyle P(x)$ . Если $\textstyle a_n=0$ , то такое распределение называется строго устойчивым. Таковым является распределение Гаусса с константой $\textstyle b_n=\sqrt{n}$ .

Заметим, что условие (1.31) сильнее огранивает класс допустимых распределений, чем просто требование бесконечной делимости. Дело в том, что в определении (1.31) слева и справа стоят случайные величины, имеющие распределения с одинаковыми параметрами, тогда как для делимости это необязательно.

Аналогично линейному масштабированию (1.29), для характеристической функции устойчивого распределения справедливо следующее функциональное уравнение:

$\Phi^n(k) = e^{ika_n}\Phi(b_n k).$

Несложно проверить, что распределения Гаусса и Коши удовлетворяют этому уравнению. В то же время гамма-распределение, являющееся бесконечно делимым, не является устойчивым. Общие функции, удовлетворяющие (1.32), называются распределениями Леви-Хинчина:

$\Phi(k) = e^{\imath k \beta - \gamma[1 + \imath \theta \mathrm{sign}(k) \mathrm{tg}(\pi\alpha/2)]\cdot |k|^\alpha},\;\;\;\;\;\;\;\;\;\;\Phi(k) = e^{\imath k \beta - \gamma |k| - \imath \gamma \theta \, k \ln |k|},$

где $\textstyle \mathrm{sign}(k)=k/|k|$ — знак $\textstyle k$ , параметр $\textstyle 0<\alpha\leqslant 2$ . Кроме этого, $\textstyle |\theta|\leqslant 1$ , $\textstyle \gamma\geqslant 0$ . Первое распределение является четырехпараметрическим, а второе — трёхпараметрическим, и оказывается пределом первого при $\textstyle \alpha\to 1$ . Эти распределения при соответствующем задании значений параметров могут описывать случайные числа с "толстыми хвостами" (большие эксцессы), что активно используется при моделировании доходностей финансовых инструментов.

$\textstyle \bullet$ Рассмотрим $\textstyle n$ независимых случайных величин $\textstyle x_1,...,x_n$ имеющих произвольные, но одинаковые распределения, и изучим свойства суммы:

$u= \frac{x_1+...+x_n}{\sqrt{n}}$

при $\textstyle n\to\infty$ . Без потери общности можно считать, что $\textstyle \left\langle x_i\right\rangle =0$ , так как сдвигом $\textstyle x\to x-\left\langle x\right\rangle$ всегда можно перейти к таким случайным величинам. В этом случае среднее значение $\textstyle u$ также равно нулю. Среднее его квадрата в силу независимости $\textstyle x_i$ равно среднему квадрата $\textstyle x$ :

$\left\langle u^2\right\rangle = \frac{\left\langle x^2_1\right\rangle +...+\left\langle x^2_n\right\rangle }{n} = \left\langle x^2\right\rangle =\sigma^2.$

Для одинаковых произвольных распределений $\textstyle x_i$ с $\textstyle \Phi(k)$ при больших $\textstyle n$ характеристическая функция для $\textstyle u$ имеет вид:

$\Phi_u(k) \;=\; \left[\Phi\left(\frac{k}{\sqrt{n}}\right)\right]^n \;=\; \left[1-\frac{\sigma^2}{2}\, \frac{k^2}{n} + ..\right]^n,$

где мы воспользовались уравнением (1.29) и разложили $\textstyle \Phi(k/\sqrt{n})$ в ряд до второго порядка малости. Член, пропорциональный $\textstyle k$ , равен нулю, так как $\textstyle \left\langle x\right\rangle =0$ . По определению, число Эйлера является пределом $\textstyle e^x=(1+x/n)^n$ , при $\textstyle n\to\infty$ . Поэтому характеристическая функция и распределение для $\textstyle u$ стремятся к гауссовому виду:

$\Phi_u(k) \to e^{-\sigma^2 k^2/2}.$

(1.33)

В качестве упражнения ( $\textstyle \lessdot$ H) стоит найти асимметрию и эксцесс при больших $\textstyle n$ для характеристической функции $\textstyle \Phi_z(k)=\Phi^{n}(k)$ .

Результат (1.33) является исключительно важным и формулируется следующим образом:

"распределение суммы большого числа независимых случайных величин стремится к нормальному распределению".

Например, если некоторая физическая величина подвержена внешним независимым случайным воздействиям, то чаще всего разброс её значений подчиняется распределению Гаусса. На финансовых рынках цена акции также подвержена случайным воздействиям со стороны колебаний спроса и предложения. Однако её распределение не является гауссовым. Связано это в основном с двумя причинами: 1) скоррелированностью действий участников рынка (за счёт синхронизирующего информационного фона) и 2) медленной переоценкой ими риска (волатильности) этой бумаги. Мы вернёмся к обсуждению этих вопросов в главе 8.

Стохастическая зависимость <<	Оглавление	>> Многомерное распределение Гаусса

Стохастический мир - простое введение в стохастические дифференциальные уравнения

Характеристическая функция

Материал из Synset

Просмотры

Личные инструменты

Навигация

почитай

Поиск

Инструменты