Модель аддитивного блуждания

Многомерное распределение Гаусса <<	Оглавление	>> Случайные процессы

---

$\textstyle \bullet$ Координата броуновской частицы в воде или цена на финансовом рынке $\textstyle x$ имеют траекторию с очень нерегулярными изломами. Простейшим её описанием будет модель аддитивного независимого дискретного случайного блуждания. Все четыре прилагательных в названии модели отражают базовые свойства процесса.

Предположим, что начальное значение $\textstyle x=x_{0}$. Далее $\textstyle x$ испытывает $\textstyle t=1,2,...$ случайных независимых гауссовых изменений ("толчков"), каждое с волатильностью $\textstyle \sigma$. В результате $\textstyle x$ окажется равным накопленной сумме таких изменений:

$x_{t}=x_{0}+\sigma \cdot (\varepsilon _{1}+...+\varepsilon _{t}),$

(1.38)

где $\textstyle \varepsilon _{i}\sim N(0,1)$ — гауссовы числа с нулевым средним и единичной дисперсией. Индекс $\textstyle t$ пока является целым числом, однако в дальнейшем мы перейдём к пределу непрерывного времени.

Удобно ввести дискретную переменную Винера:

$W_{t}=\varepsilon _{1}+...+\varepsilon _{t}=\varepsilon \cdot {\sqrt {t}}.$

(1.39)

Второе равенство мы записали, так как сумма $\textstyle t$ гауссовых чисел снова равна гауссовому числу с волатильностью $\textstyle {\sqrt {t}}$. Случайные числа, как с индексами $\textstyle \varepsilon _{i}$, так и без них $\textstyle \varepsilon$, предполагаются нормированными: $\textstyle \left\langle \varepsilon \right\rangle =0$, $\textstyle \left\langle \varepsilon ^{2}\right\rangle =1$, т.е. как $\textstyle \varepsilon \sim N(0,1)$. Модель (1.38) теперь выглядит следующим образом: $\textstyle x_{t}=x_{0}+\sigma \cdot W_{t}$.

Смоделируем такое блуждание при помощи компьютера. Начиная с $\textstyle x_{0}=0$, будем генерить случайные числа $\textstyle \varepsilon _{1}$, $\textstyle \varepsilon _{2}$, ... и строить их накопленную сумму (1-й рисунок):

Так как изменения $\textstyle \varepsilon _{k}$ будут каждый раз новыми, то по-разному будут протекать и блуждания траектории $\textstyle x_{t}=x(t)$ (см. 2-й рисунок). Различные реализации процесса блуждания пересекают вертикальную прямую $\textstyle t=const$ в тех или иных значениях $\textstyle x$. Совокупность всех этих чисел является случайной величиной.

Поэтому, говоря о процессе $\textstyle x(t)$, мы подразумеваем, что в данный момент времени $\textstyle x=x(t)$ имеет определённое распределение $\textstyle P(x)$. В некоторый другой момент времени распределение может оказаться иным. Поэтому плотность вероятности $\textstyle P(x,t)$, среднее $\textstyle {\bar {x}}(t)$ и волатильность $\textstyle \sigma (t)$ будут функциями времени.

Волатильность аддитивного блуждания увеличивается, как $\textstyle {\sqrt {t}}$. Это наглядно видно на 2-м рисунке с несколькими реализациями $\textstyle x_{t}$. Их "пучок" постепенно расширяется. В результате неопределённость будущего значения $\textstyle x_{t}$ увеличивается. Мы можем обнаружить $\textstyle x_{t}$ достаточно далеко от начального значения $\textstyle x_{0}=0$. Это также проиллюстрировано на 3-м рисунке, где представлены плотности вероятности $\textstyle P(x,t)$, которые с течением времени постепенно "расплываются".

Блуждающие траектории начинаются с определённого начального значения $\textstyle x_{0}=x(t_{0})$ в момент времени $\textstyle t_{0}$. Поэтому, говоря о вероятности, мы имеем дело с условной плотностью $\textstyle P(x_{0},t_{0}\Rightarrow x,t)$. Пока моменты времени $\textstyle t_{0}$ и $\textstyle t$ являются целыми числами, соответствующими номеру скачка $\textstyle \varepsilon _{k}$ на очередном этапе.

Важно понимать, что $\textstyle x_{t}=x(t)$ не является конкретной траекторией. Это одновременная совокупность всех возможных траекторий случайного процесса. Аналогично, случайное число $\textstyle x$ не подразумевает конкретного значения, а обозначает все возможные реализации, подчиняющиеся некоторому распределению $\textstyle P(x)$. Вероятность получить на $\textstyle t$-ом шаге $\textstyle x_{t}$ определяется вероятностями всех изменений $\textstyle \varepsilon _{i}$. Так, дискретный винеровский процесс $\textstyle W_{t}$ определяется плотностью вероятности:

$P(\varepsilon _{1},...,\varepsilon _{t})=P(\varepsilon _{1})\cdot ...\cdot P(\varepsilon _{t}),$

где равенство отражает независимость всех $\textstyle \varepsilon _{i}$. Таким образом, $\textstyle W_{t}$ — фактически, многомерная случайная величина.

Обратим ещё раз внимание на смысл записи: $\textstyle \varepsilon _{1}+...+\varepsilon _{t}=\varepsilon \cdot {\sqrt {t}}$. Предположим, что в процессе моделирования мы генерим $\textstyle t$ независимых гауссовых чисел $\textstyle \varepsilon _{1},\varepsilon _{2},...$ и складываем их. Результат будет иметь такие же статистические свойства, как одно гауссово число $\textstyle \varepsilon$ с единичной волатильностью, умноженное на фактор $\textstyle {\sqrt {t}}$. При вычислении свойств накопленной суммы вполне достаточно пользоваться величиной $\textstyle \varepsilon$, а не совместной плотностью $\textstyle P(\varepsilon _{1},...,\varepsilon _{t})$. В частности, если мы ищем среднее значение, в котором участвует сумма гауссовых чисел, его вычисление можно упростить, используя только одно случайное число. Однако, если нас интересует связь сумм, получаемых в различные моменты времени, то необходимы некоторые ухищрения. Рассмотрим их подробнее.

$\textstyle \bullet$ Для сравнения процесса блуждания с самим собой в различные моменты времени его необходимо разбивать на неперекрывающиеся участки времени. Пусть процесс длится $\textstyle s$ шагов, а затем еще в течение $\textstyle t-s$. Сравним свойства траекторий в "моменты времени" $\textstyle s$ и $\textstyle t$ ($\textstyle s<t$):

${\begin{array}{l}W_{s}=\varepsilon _{1}+...+\varepsilon _{s},\ W_{t}=\varepsilon _{1}+...+\varepsilon _{s}+\varepsilon _{s+1}+...+\varepsilon _{t}.\ \end{array}}$

Вычитая уравнения, получим сумму $\textstyle t-s$ случайных чисел:

$W_{t}-W_{s}\;=\;\varepsilon _{s+1}+...+\varepsilon _{t}=\varepsilon {\sqrt {t-s}}=W_{t-s}.$

Второе равенство является отражением того, что суммарная волатильность $\textstyle t-s$ независимых гауссовых слагаемых будет равна $\textstyle {\sqrt {t-s}}$. Фактически, $\textstyle W_{s}$ и $\textstyle W_{t}$ можно представить в виде:

${\begin{array}{l}W_{s}=\varepsilon _{a}\,{\sqrt {s}},\ W_{t}=\varepsilon _{a}\,{\sqrt {s}}+\varepsilon _{b}\,{\sqrt {t-s}},\end{array}}$

(1.40)

где $\textstyle \varepsilon _{a}$, $\textstyle \varepsilon _{b}$, как и везде в наших лекциях, — независимые гауссовые числа с нулевым средним и единичной дисперсией. Первое из них — $\textstyle \varepsilon _{a}$ — эквивалентно накопленной сумме начальных $\textstyle s$ приращений, а второе — $\textstyle \varepsilon _{b}$ — соответствует независимым от $\textstyle \varepsilon _{a}$ последующим $\textstyle t-s$ приращениям.

Теперь можно найти ковариацию между $\textstyle W_{s}$ и $\textstyle W_{t}$. Так как $\textstyle {\overline {W_{t}}}=0$, то:

$\mathrm {cov} (s,t)=\left\langle W_{s}W_{t}\right\rangle =\left\langle \varepsilon _{a}\,{\sqrt {s}}\cdot {\bigl (}\varepsilon _{a}\,{\sqrt {s}}+\varepsilon _{b}\,{\sqrt {t-s}}{\bigr )}\right\rangle =s,$

в силу того, что $\textstyle \left\langle \varepsilon _{a}^{2}\right\rangle =1$ и $\textstyle \left\langle \varepsilon _{a}\varepsilon _{b}\right\rangle =0$. Таким образом, ковариация зависит только от наименьшего числа $\textstyle s=\min(s,t)$, представляющего собой длительность общей для $\textstyle W_{s}$ и $\textstyle W_{t}$ истории. Для прояснения смысла этого результата запишем регрессионную прямую (1.25) между $\textstyle W_{s}$ и $\textstyle W_{t}$. Их волатильности равны $\textstyle {\sqrt {s}}$ и $\textstyle {\sqrt {t}}$, а средние — нулю, поэтому:

${\frac {W_{t}}{\sqrt {t}}}={\frac {\mathrm {cov} (s,t)}{{\sqrt {s}}{\sqrt {t}}}}\cdot {\frac {W_{s}}{\sqrt {s}}}+{\frac {\xi }{\sqrt {t}}}\;\;\;\;\;\;\;=>\;\;\;\;\;\;W_{t}=W_{s}+\xi .$

Таким образом, если известно, что в момент времени $\textstyle s$ сумма равна $\textstyle W_{s}$, то наилучшим прогнозом будущего значения $\textstyle W_{t}$ будет уже известное $\textstyle W_{s}$. Из (1.40) следует, что линейная регрессионная модель оказывается в данном случае точной. При этом её "шумом" выступают накопленные после момента времени $\textstyle s$ изменения: $\textstyle \xi =\varepsilon _{s+1}+...+\varepsilon _{t}=\varepsilon _{b}{\sqrt {t-s}}$.

Мы будем часто усреднять гауссовы величины, поэтому в качестве упражнения стоит проверить следующие соотношения ($\textstyle i<j<k$):

$\left\langle W_{i}W_{j}W_{k}\right\rangle =0,\;\;\;\;\;\;\;\left\langle W_{i}^{2}W_{j}W_{k}\right\rangle =2i^{2}+ij\;\;\;\;\;\;\left\langle W_{i}W_{j}^{2}W_{k}\right\rangle =3ij.$

[Процесс $\textstyle W_{k}$ необходимо разбить на три интервала.]

$\textstyle \bullet$ В заключение раздела ответим на следующий вопрос. Если $\textstyle x=x_{1}$, то какова вероятность обнаружить его на следующем шаге в $\textstyle x_{2}$? Очевидно, что она равна вероятности изменения $\textstyle x$:

$P(x_{1}\Rightarrow x_{2})=P(\varepsilon )={\frac {e^{-(x_{2}-x_{1})^{2}/2}}{\sqrt {2\pi }}}.$

Мы положили $\textstyle \sigma =1$ и записали в явном виде гауссову плотность вероятности для $\textstyle \varepsilon =x_{2}-x_{1}$. В результате условная вероятность зависит от обоих аргументов, поэтому случайные числа $\textstyle x_{1}$ и $\textstyle x_{2}$ являются зависимыми.

Дискретная траектория блуждания описывается множеством случайных величин $\textstyle x_{t}=\{x_{1},x_{2},x_{3},...\}$, задающих возможные значения $\textstyle x$ на шаге $\textstyle t$. Индекс можно записать в функциональной форме $\textstyle x(t)$ и говорить о случайной функции, которая пока определена только в дискретных точках. Таким образом, случайная функция — это многомерная величина. Для задания свойств случайного процесса в общем случае необходимо определить плотность вероятности $\textstyle P(x_{1},x_{2},x_{3},...)$ с бесконечным числом аргументов.

Для винеровского процесса ситуация существенно упрощается, так как каждое следующее $\textstyle x_{t+1}$ определяется значением непосредственно предшествующего $\textstyle x_{t}$ и никак не зависит от более длинной предыстории. Этот факт мы будем записывать в следующем виде:

$P(x_{1},...,x_{t}\Rightarrow x_{t+1})\;=\;P(x_{t}\Rightarrow x_{t+1}).$

(1.41)

Если известно $\textstyle x_{t}$, то $\textstyle x_{t+1}$ будет определяться значением $\textstyle x_{t}$ и случайным изменением $\textstyle \varepsilon$, а не всей историей $\textstyle x_{1},...,x_{t-1}$. Процессы с такой "короткой памятью" называются марковскими процессами. Они представляют собой следующее приближение после независимости случайных величин, для которых $\textstyle P(x_{1},...,x_{t}\Rightarrow x_{t+1})=P(x_{t+1}).$

Марковские процессы позволяют представить совместную вероятность любой размерности в виде цепочки условных вероятностей. Например:

$P(x_{1},x_{2},x_{3})=P(x_{1})\cdot P(x_{1}\Rightarrow x_{2})\cdot P(x_{2}\Rightarrow x_{3}).$

(1.42)

Для этого сначала записываем $\textstyle P(x_{1},x_{2},x_{3})=P(x_{1},x_{2})\cdot P(x_{1},x_{2}\Rightarrow x_{3})$ по определению условной вероятности. Затем используем определение для $\textstyle P(x_{1},x_{2})=P(x_{1})P(x_{1}\Rightarrow x_{2})$ и марковское условие короткой памяти: $\textstyle P(x_{1},x_{2}\Rightarrow x_{3})=P(x_{2}\Rightarrow x_{3})$. Таким образом, чтобы произошло $\textstyle x_{1},x_{2},x_{3}$, необходимо, чтобы свершилось $\textstyle x_{1}$. При условии, что это произошло, далее реализовалось $\textstyle x_{2}$, и т.д.

---

Многомерное распределение Гаусса <<	Оглавление	>> Случайные процессы

---

Стохастический мир - простое введение в стохастические дифференциальные уравнения