Уравнение для плотности вероятности — различия между версиями

Материал из synset
Перейти к: навигация, поиск
м (Защищена страница «Уравнение для плотности вероятности» ([edit=sysop] (бессрочно) [move=sysop] (бессрочно)))
 
(не показаны 3 промежуточные версии этого же участника)
Строка 6: Строка 6:
 
----
 
----
  
 +
<math>\textstyle \bullet</math> Найдём уравнение относительно переменных начального значения <math>\textstyle x_0</math>, <math>\textstyle t_0</math>. Для этого воспользуемся уравнением Чепмена-Колмогорова. Чтобы возникла производная по времени <math>\textstyle t_0</math>, необходимо рассмотреть <math>\textstyle t_0</math> и бесконечно близкое к нему время <math>\textstyle t_0+\Delta t</math>. Поэтому для трёх последовательных моментов времени в интегральном уравнении возьмём два соседних <math>\textstyle t_1=t_0</math>, <math>\textstyle t_2=t_0+\Delta t</math> и одно "будущее" <math>\textstyle t_3=t</math>:
  
 +
:<center><math>P(x_0,t_0 \Rightarrow x,t) = \int\limits^\infty_{-\infty} P(x_0,t_0 \Rightarrow y,t_0+\Delta t)\cdot \underbrace{P(y,t_0+\Delta t \Rightarrow x,t)}_{раскладываем\;по\;(y-x_0)} \;dy.</math></center>
 +
 +
Интервал <math>\textstyle \Delta t</math> мал и, следовательно, величина <math>\textstyle y</math>, соответствующая моменту времени <math>\textstyle t_0+\Delta t</math>, должна быть близка к <math>\textstyle x_0</math> в момент времени <math>\textstyle t_0</math>. Поэтому разложим в ряд Тейлора по <math>\textstyle y-x_0</math>, в окрестности точки <math>\textstyle y=x_0</math>, второй множитель под интегралом:
 +
 +
:<center><math>P(y,t_0+\Delta t \Rightarrow x,t) = P + \frac{\partial P}{\partial x_0}\cdot (y-x_0) + \frac{1}{2}\;\frac{\partial^2P}{\partial x_0^2}\cdot(y-x_0)^2+...,</math></center>
 +
 +
где <math>\textstyle P=P(x_0,t_0+\Delta t \Rightarrow x,t)</math>. Вынесем множители, не зависящие от <math>\textstyle y</math>, за знак интеграла. Опуская пределы интегрирования, запишем:
 +
 +
<center><math>
 +
\begin{array}{lcl} P(x_0,t_0 \Rightarrow x,t) &=& P(x_0,t_0+\Delta t \Rightarrow x,t)\cdot \int P(x_0,t_0 \Rightarrow y,t_0+\Delta t) dy \\ &+& \frac{\partial P}{\partial x_0 } \cdot \int (y-x_0) \cdot P(x_0,t_0 \Rightarrow y,t_0+\Delta t) dy \\ &+& \frac{1}{2} \frac{\partial^2 P}{\partial x_0^2}\cdot \int (y-x_0)^2 \cdot P(x_0,t_0 \Rightarrow y,t_0+\Delta t) dy\\ &+& ...
 +
\end{array}
 +
</math></center>
 +
 +
Первое слагаемое соответствует условию нормировки (переход "хоть куда-нибудь"), и интеграл равен единице. В результате получается просто <math>\textstyle P</math>.
 +
 +
Перенесём направо <math>\textstyle P(x_0,t_0 \Rightarrow x,t)</math> и разделим обе части на <math>\textstyle \Delta t</math>. По определению, при <math>\textstyle \Delta t\to 0</math> мы можем записать:
 +
 +
:<center><math>\frac{P(x_0,t_0+\Delta t \Rightarrow x,t)-P(x_0,t_0 \Rightarrow x,t)}{\Delta t} \;\;\to\;\; \frac{\partial P(x_0,t_0 \Rightarrow x,t)}{\partial t_0},</math></center>
 +
 +
что приводит к производной по начальному моменту времени <math>\textstyle t_0</math>.
 +
 +
Интегрирование по <math>\textstyle y</math> во втором и третьем слагаемых даёт условные средние моментов первого и второго порядков:
 +
 +
:<center><math>\frac{\partial P(x_0,t_0 \Rightarrow x,t)}{\partial t_0} \;+\; \frac{\partial P}{\partial x_0 }\cdot \frac{\left\langle (x-x_0)\right\rangle }{\Delta t} \;+\; \frac{1}{2} \frac{\partial^2 P}{\partial x_0^2} \cdot \frac{\left\langle (x-x_0)^2\right\rangle }{\Delta t} \;=\; 0.</math></center>
 +
 +
Если бы мы продолжили разложение в ряд Тейлора, то в этом уравнении стояли бы также моменты более высоких порядков <math>\textstyle \left\langle (x-x_0)^3\right\rangle </math>, и т.д. Однако для диффузных процессов они ''по определению'' в пределе <math>\textstyle \Delta t \to 0</math> равны нулю (см. стр. \pageref{def_a_b}).
 +
 +
Средние значения, как обычно, вычисляются при помощи условной плотности вероятности (<math>\textstyle \Delta t\to 0 </math>):
 +
 +
:<center><math>\left\langle \,(x-x_0)^m\right\rangle =\int\limits^\infty_{-\infty} (x-x_0)^m \; P(x_0,t_0 \Rightarrow x,t_0+\Delta t)\, dx.</math></center>
 +
 +
При вычислении предела <math>\textstyle \Delta t \to 0</math> сначала необходимо проинтегрировать, вычислив среднее, затем полученную функцию от <math>\textstyle \Delta t</math> разделить на <math>\textstyle \Delta t</math>, и только после этого устремить к нулю <math>\textstyle \Delta t \to 0</math>.
 +
 +
Мы видим, что снос и диффузия естественным образом появляются как в уравнениях для плотности вероятности случайного процесса, так и в стохастических дифференциальных уравнениях при записи их через разности.
 +
 +
В результате, вводя коэффициенты сноса и диффузии, получаем "''первое уравнение Колмогорова''":
 +
 +
{| width="100%"
 +
| width="90%" align="center"|<math> { \;\;\;\frac{\partial P}{\partial t_0} + a(x_0,t_0) \cdot \frac{\partial P}{\partial x_0} + \frac{1}{2}\;b^2(x_0,t_0) \cdot\frac{\partial^2 P}{\partial x_0^2} \;= 0\;\;\; }, </math>
 +
| <div width="10%" align="right" style="color:#0000CC">'''(4.6)'''</div>
 +
|}
 +
 +
где <math>\textstyle P=P(x_0,t_0 \Rightarrow x, t)</math>. Заметим, что производные в этом уравнении берутся не по будущим аргументам <math>\textstyle x</math> и <math>\textstyle t</math>, а по начальным <math>\textstyle x_0</math> и <math>\textstyle t_0</math>.
 +
 +
Если значение <math>\textstyle x_0=x(t_0)</math> задано точно, то первое уравнение Колмогорова необходимо решать с "начальными" условиями в виде дельта-функции Дирака:
 +
 +
{| width="100%"
 +
| width="90%" align="center"|<math> P(x_0,t_0 \Rightarrow x,t) = \delta (x-x_0)\;\;\;\;\;при\;\;\; t\to t_0. </math>
 +
| <div width="10%" align="right" style="color:#0000CC">'''(4.7)'''</div>
 +
|}
 +
 +
Естественно, кроме этого предполагается наличие тех или иных граничных условий. В простейшем случае требуют достаточно быстрого убывания плотности вероятности при увеличении разности <math>\textstyle x-x_0</math> в любой момент времени <math>\textstyle t>t_0</math>.
 +
 +
 +
----
 +
 +
 +
<math>\textstyle \bullet</math> Выведем теперь второе дифференциальное уравнение для функции <math>\textstyle P(x_0,t_0 \Rightarrow x, t)</math> по "будущим" аргументам <math>\textstyle x,t</math>. Пусть процесс Ито в момент времени <math>\textstyle t-\Delta t</math> имеет значение <math>\textstyle x</math>. Спустя малый интервал времени <math>\textstyle \Delta t</math> он будет иметь значение <math>\textstyle y</math>:
 +
 +
{| width="100%"
 +
| width="90%" align="center"|<math> y=x+a\, \Delta t + b \, \varepsilon \sqrt{\Delta t}, </math>
 +
| <div width="10%" align="right" style="color:#0000CC">'''(4.8)'''</div>
 +
|}
 +
 +
где <math>\textstyle a=a(x, t-\Delta t)</math>, <math>\textstyle b=b(x, t-\Delta t)</math>. Величина <math>\textstyle x</math> является случайной с плотностью распределения <math>\textstyle P(x,t-\Delta t)=P(x_0,t_0\Rightarrow x,t-\Delta t)</math>. Случайной и независимой от неё будет и <math>\textstyle \varepsilon</math> c гауссовой плотностью <math>\textstyle P(\varepsilon)</math>. В результате <math>\textstyle y</math> в момент <math>\textstyle t</math> также будет случайной величиной.
 +
 +
Чтобы найти распределение <math>\textstyle P(y,t)=P(x_0,t_0\Rightarrow y,t)</math>, необходимо вычислить среднее от произвольной функции (см. стр. \pageref{aver_fun_def}):
 +
 +
{| width="100%"
 +
| width="90%" align="center"|<math> \left\langle F(y)\right\rangle = \int\limits^\infty_{-\infty} \overbrace{F(x+a\Delta t +b\varepsilon\sqrt{\Delta t})}^{F(y)}\cdot \overbrace{P(x, t-\Delta t) P(\varepsilon)}^{P(x,\varepsilon)} \,dx\,d\varepsilon </math>
 +
| <div width="10%" align="right" style="color:#0000CC">'''(4.9)'''</div>
 +
|}
 +
 +
и преобразовать его таким образом, чтобы получился однократный интеграл c <math>\textstyle F(y)</math> ''в момент времени'' <math>\textstyle t</math>. Обратим внимание, что, если в (4.8) <math>\textstyle x</math>, <math>\textstyle y</math> и <math>\textstyle \varepsilon</math> &mdash; это случайные величины, потенциально принимающие любые значения, то в (4.9) они же выступают в виде обычных вещественных переменных интегрирования.
 +
 +
Так как <math>\textstyle \Delta t</math> малo, разложим <math>\textstyle F(..)</math> в ряд, оставляя члены порядка не более <math>\textstyle \Delta t</math>:
 +
 +
:<center><math>F(x+a\Delta t +b\varepsilon\sqrt{\Delta t})= F(x)+\frac{\partial F}{\partial x}\,\bigl(a\,\Delta t + b\,\varepsilon \,\sqrt{\Delta t}\bigr) + \frac{1}{2} \frac{\partial^2 F}{\partial x^2} \,b^2\,\varepsilon^2 \,\Delta t +...</math></center>
 +
 +
Все функции справа вычислены в точке <math>\textstyle x</math> и в момент времени <math>\textstyle t</math>. Заметим, что в (4.8) функции вычислялись в момент времени <math>\textstyle t-\Delta t</math>. На самом деле их тоже необходимо разложить по <math>\textstyle \Delta t</math>. Однако эти ряды будут умножаться на <math>\textstyle \Delta t</math>, <math>\textstyle \sqrt{\Delta t}</math> и окажутся малыми более высокого порядка. Поэтому можно взять ведущее приближение разложения и считать в дальнейшем, что <math>\textstyle a=a(x,t)</math>, <math>\textstyle b=b(x,t)</math>.
 +
 +
Аналогично раскладывается плотность вероятности по <math>\textstyle \Delta t</math>:
 +
 +
:<center><math>P(x, t-\Delta t) = P(x, t) - \frac{\partial P(x, t)}{\partial t}\,\Delta t + ...</math></center>
 +
 +
Этим соотношением мы связываем плотности вероятности в два бесконечно близких момента времени, в результате чего в конечном уравнении появится частная производная по времени.
 +
 +
Подставим последние два разложения в (4.9), выдерживая порядок малости по <math>\textstyle \Delta t</math>. Интегрирование по <math>\textstyle \varepsilon</math> сводится к <math>\textstyle \left\langle \varepsilon\right\rangle =0</math>, <math>\textstyle \left\langle \varepsilon^2\right\rangle =1</math>, и в результате:
 +
 +
:<center><math>\left\langle F(y)\right\rangle = \int\limits^\infty_{-\infty} F(x)P(x,t)dx - \Delta t \int\limits^\infty_{-\infty} \left[ F\,\frac{\partial P}{\partial t} -\frac{\partial F}{\partial x}\;a P - \frac{1}{2} \frac{\partial^2 F}{\partial x^2} \; b^2 P \right] dx.</math></center>
 +
 +
Во втором интеграле <math>\textstyle F=F(x)</math>, <math>\textstyle P=P(x,t)</math>. Первый интеграл представляет определение искомого среднего ''в момент времени'' <math>\textstyle t</math> (переменная интегрирования <math>\textstyle x</math> может быть переобозначена в <math>\textstyle y</math>). Поэтому второй интеграл должен быть равен нулю. Интегрируя по частям один раз второе слагаемое в квадратных скобках и два раза третье (<math>\textstyle \lessdot</math> C), получим <math>\textstyle F(x)</math>, умноженную на выражение:
 +
 +
{| width="100%"
 +
| width="90%" align="center"|<math> { \;\frac{\partial P}{\partial t} + \frac{\partial}{\partial x} \;\bigl[ a(x,t) \cdot P\bigr] - \frac{1}{2}\;\frac{\partial^2}{\partial x^2_{}} \;\bigl[ b^2(x,t) \cdot P \bigr]= 0\; }, </math>
 +
| <div width="10%" align="right" style="color:#0000CC">'''(4.10)'''</div>
 +
|}
 +
 +
которое должно быть равно нулю (в силу произвольности <math>\textstyle F(x)</math>). Это ''уравнение Фоккера - Планка'', или ''второе уравнение Колмогорова'' для плотности условной вероятности <math>\textstyle P=P(x_0,t_0 \Rightarrow x, t)</math>.
 +
 +
Решение уравнения Фоккера-Планка позволяет найти плотность вероятности условного перехода. Имея её, мы фактически знаем о марковском случайном процессе всё. Можем вычислять его среднее, волатильность, автокорреляционную функцию и отвечать на другие вопросы.
 +
 +
Естественно, кроме начального условия (4.7), предполагается наличие граничных условий для плотности вероятности. Так как мы знаем, что в момент времени <math>\textstyle t_0</math> значение <math>\textstyle x</math> было равно <math>\textstyle x_0</math>, то спустя ''конечный'' интервал времени цена или броуновская частица не могут "заблуждать" бесконечно далеко. Поэтому мы считаем, что плотность вероятности на бесконечности равна нулю. Это же требование возникает в силу ''условия нормировки'':
 +
 +
{| width="100%"
 +
| width="90%" align="center"|<math> \int\limits^\infty_{-\infty} P(x_0, t_0 \Rightarrow x, t) \, dx = 1, </math>
 +
| <div width="10%" align="right" style="color:#0000CC">'''(4.11)'''</div>
 +
|}
 +
 +
имеющего смысл вероятности перехода "куда угодно".
 +
 +
Так как дифференциальное уравнение (4.10) линейно относительно функции <math>\textstyle P</math>, то решение не изменяется при умножении <math>\textstyle P</math> на произвольную константу. Её значение должно фиксироваться при помощи условия нормировки (4.11).
  
 
----
 
----

Текущая версия на 18:18, 15 марта 2010

Марковские плотности вероятности << Оглавление >> Решение уравнения Фоккера-Планка

Найдём уравнение относительно переменных начального значения , . Для этого воспользуемся уравнением Чепмена-Колмогорова. Чтобы возникла производная по времени , необходимо рассмотреть и бесконечно близкое к нему время . Поэтому для трёх последовательных моментов времени в интегральном уравнении возьмём два соседних , и одно "будущее" :

Невозможно разобрать выражение (синтаксическая ошибка): {\displaystyle P(x_0,t_0 \Rightarrow x,t) = \int\limits^\infty_{-\infty} P(x_0,t_0 \Rightarrow y,t_0+\Delta t)\cdot \underbrace{P(y,t_0+\Delta t \Rightarrow x,t)}_{раскладываем\;по\;(y-x_0)} \;dy.}

Интервал мал и, следовательно, величина , соответствующая моменту времени , должна быть близка к в момент времени . Поэтому разложим в ряд Тейлора по , в окрестности точки , второй множитель под интегралом:

где . Вынесем множители, не зависящие от , за знак интеграла. Опуская пределы интегрирования, запишем:

Первое слагаемое соответствует условию нормировки (переход "хоть куда-нибудь"), и интеграл равен единице. В результате получается просто .

Перенесём направо и разделим обе части на . По определению, при мы можем записать:

что приводит к производной по начальному моменту времени .

Интегрирование по во втором и третьем слагаемых даёт условные средние моментов первого и второго порядков:

Если бы мы продолжили разложение в ряд Тейлора, то в этом уравнении стояли бы также моменты более высоких порядков , и т.д. Однако для диффузных процессов они по определению в пределе равны нулю (см. стр. \pageref{def_a_b}).

Средние значения, как обычно, вычисляются при помощи условной плотности вероятности ():

При вычислении предела сначала необходимо проинтегрировать, вычислив среднее, затем полученную функцию от разделить на , и только после этого устремить к нулю .

Мы видим, что снос и диффузия естественным образом появляются как в уравнениях для плотности вероятности случайного процесса, так и в стохастических дифференциальных уравнениях при записи их через разности.

В результате, вводя коэффициенты сноса и диффузии, получаем "первое уравнение Колмогорова":

(4.6)

где . Заметим, что производные в этом уравнении берутся не по будущим аргументам и , а по начальным и .

Если значение задано точно, то первое уравнение Колмогорова необходимо решать с "начальными" условиями в виде дельта-функции Дирака:

Невозможно разобрать выражение (синтаксическая ошибка): {\displaystyle P(x_0,t_0 \Rightarrow x,t) = \delta (x-x_0)\;\;\;\;\;при\;\;\; t\to t_0. }
(4.7)

Естественно, кроме этого предполагается наличие тех или иных граничных условий. В простейшем случае требуют достаточно быстрого убывания плотности вероятности при увеличении разности в любой момент времени .




Выведем теперь второе дифференциальное уравнение для функции по "будущим" аргументам . Пусть процесс Ито в момент времени имеет значение . Спустя малый интервал времени он будет иметь значение :

(4.8)

где , . Величина является случайной с плотностью распределения . Случайной и независимой от неё будет и c гауссовой плотностью . В результате в момент также будет случайной величиной.

Чтобы найти распределение , необходимо вычислить среднее от произвольной функции (см. стр. \pageref{aver_fun_def}):

(4.9)

и преобразовать его таким образом, чтобы получился однократный интеграл c в момент времени . Обратим внимание, что, если в (4.8) , и — это случайные величины, потенциально принимающие любые значения, то в (4.9) они же выступают в виде обычных вещественных переменных интегрирования.

Так как малo, разложим в ряд, оставляя члены порядка не более :

Все функции справа вычислены в точке и в момент времени . Заметим, что в (4.8) функции вычислялись в момент времени . На самом деле их тоже необходимо разложить по . Однако эти ряды будут умножаться на , и окажутся малыми более высокого порядка. Поэтому можно взять ведущее приближение разложения и считать в дальнейшем, что , .

Аналогично раскладывается плотность вероятности по :

Этим соотношением мы связываем плотности вероятности в два бесконечно близких момента времени, в результате чего в конечном уравнении появится частная производная по времени.

Подставим последние два разложения в (4.9), выдерживая порядок малости по . Интегрирование по сводится к , , и в результате:

Во втором интеграле , . Первый интеграл представляет определение искомого среднего в момент времени (переменная интегрирования может быть переобозначена в ). Поэтому второй интеграл должен быть равен нулю. Интегрируя по частям один раз второе слагаемое в квадратных скобках и два раза третье ( C), получим , умноженную на выражение:

(4.10)

которое должно быть равно нулю (в силу произвольности ). Это уравнение Фоккера - Планка, или второе уравнение Колмогорова для плотности условной вероятности .

Решение уравнения Фоккера-Планка позволяет найти плотность вероятности условного перехода. Имея её, мы фактически знаем о марковском случайном процессе всё. Можем вычислять его среднее, волатильность, автокорреляционную функцию и отвечать на другие вопросы.

Естественно, кроме начального условия (4.7), предполагается наличие граничных условий для плотности вероятности. Так как мы знаем, что в момент времени значение было равно , то спустя конечный интервал времени цена или броуновская частица не могут "заблуждать" бесконечно далеко. Поэтому мы считаем, что плотность вероятности на бесконечности равна нулю. Это же требование возникает в силу условия нормировки:

(4.11)

имеющего смысл вероятности перехода "куда угодно".

Так как дифференциальное уравнение (4.10) линейно относительно функции , то решение не изменяется при умножении на произвольную константу. Её значение должно фиксироваться при помощи условия нормировки (4.11).


Марковские плотности вероятности << Оглавление >> Решение уравнения Фоккера-Планка

Стохастический мир - простое введение в стохастические дифференциальные уравнения