Уравнение для плотности вероятности — различия между версиями
WikiSysop (обсуждение | вклад) (Новая страница: «{| width="100%" | width="40%"|Марковские плотности вероятности << ! width="20%"|[[Стохастический мир|Огла…») |
WikiSysop (обсуждение | вклад) |
||
(не показаны 4 промежуточные версии этого же участника) | |||
Строка 6: | Строка 6: | ||
---- | ---- | ||
+ | <math>\textstyle \bullet</math> Найдём уравнение относительно переменных начального значения <math>\textstyle x_0</math>, <math>\textstyle t_0</math>. Для этого воспользуемся уравнением Чепмена-Колмогорова. Чтобы возникла производная по времени <math>\textstyle t_0</math>, необходимо рассмотреть <math>\textstyle t_0</math> и бесконечно близкое к нему время <math>\textstyle t_0+\Delta t</math>. Поэтому для трёх последовательных моментов времени в интегральном уравнении возьмём два соседних <math>\textstyle t_1=t_0</math>, <math>\textstyle t_2=t_0+\Delta t</math> и одно "будущее" <math>\textstyle t_3=t</math>: | ||
+ | :<center><math>P(x_0,t_0 \Rightarrow x,t) = \int\limits^\infty_{-\infty} P(x_0,t_0 \Rightarrow y,t_0+\Delta t)\cdot \underbrace{P(y,t_0+\Delta t \Rightarrow x,t)}_{раскладываем\;по\;(y-x_0)} \;dy.</math></center> | ||
+ | |||
+ | Интервал <math>\textstyle \Delta t</math> мал и, следовательно, величина <math>\textstyle y</math>, соответствующая моменту времени <math>\textstyle t_0+\Delta t</math>, должна быть близка к <math>\textstyle x_0</math> в момент времени <math>\textstyle t_0</math>. Поэтому разложим в ряд Тейлора по <math>\textstyle y-x_0</math>, в окрестности точки <math>\textstyle y=x_0</math>, второй множитель под интегралом: | ||
+ | |||
+ | :<center><math>P(y,t_0+\Delta t \Rightarrow x,t) = P + \frac{\partial P}{\partial x_0}\cdot (y-x_0) + \frac{1}{2}\;\frac{\partial^2P}{\partial x_0^2}\cdot(y-x_0)^2+...,</math></center> | ||
+ | |||
+ | где <math>\textstyle P=P(x_0,t_0+\Delta t \Rightarrow x,t)</math>. Вынесем множители, не зависящие от <math>\textstyle y</math>, за знак интеграла. Опуская пределы интегрирования, запишем: | ||
+ | |||
+ | <center><math> | ||
+ | \begin{array}{lcl} P(x_0,t_0 \Rightarrow x,t) &=& P(x_0,t_0+\Delta t \Rightarrow x,t)\cdot \int P(x_0,t_0 \Rightarrow y,t_0+\Delta t) dy \\ &+& \frac{\partial P}{\partial x_0 } \cdot \int (y-x_0) \cdot P(x_0,t_0 \Rightarrow y,t_0+\Delta t) dy \\ &+& \frac{1}{2} \frac{\partial^2 P}{\partial x_0^2}\cdot \int (y-x_0)^2 \cdot P(x_0,t_0 \Rightarrow y,t_0+\Delta t) dy\\ &+& ... | ||
+ | \end{array} | ||
+ | </math></center> | ||
+ | |||
+ | Первое слагаемое соответствует условию нормировки (переход "хоть куда-нибудь"), и интеграл равен единице. В результате получается просто <math>\textstyle P</math>. | ||
+ | |||
+ | Перенесём направо <math>\textstyle P(x_0,t_0 \Rightarrow x,t)</math> и разделим обе части на <math>\textstyle \Delta t</math>. По определению, при <math>\textstyle \Delta t\to 0</math> мы можем записать: | ||
+ | |||
+ | :<center><math>\frac{P(x_0,t_0+\Delta t \Rightarrow x,t)-P(x_0,t_0 \Rightarrow x,t)}{\Delta t} \;\;\to\;\; \frac{\partial P(x_0,t_0 \Rightarrow x,t)}{\partial t_0},</math></center> | ||
+ | |||
+ | что приводит к производной по начальному моменту времени <math>\textstyle t_0</math>. | ||
+ | |||
+ | Интегрирование по <math>\textstyle y</math> во втором и третьем слагаемых даёт условные средние моментов первого и второго порядков: | ||
+ | |||
+ | :<center><math>\frac{\partial P(x_0,t_0 \Rightarrow x,t)}{\partial t_0} \;+\; \frac{\partial P}{\partial x_0 }\cdot \frac{\left\langle (x-x_0)\right\rangle }{\Delta t} \;+\; \frac{1}{2} \frac{\partial^2 P}{\partial x_0^2} \cdot \frac{\left\langle (x-x_0)^2\right\rangle }{\Delta t} \;=\; 0.</math></center> | ||
+ | |||
+ | Если бы мы продолжили разложение в ряд Тейлора, то в этом уравнении стояли бы также моменты более высоких порядков <math>\textstyle \left\langle (x-x_0)^3\right\rangle </math>, и т.д. Однако для диффузных процессов они ''по определению'' в пределе <math>\textstyle \Delta t \to 0</math> равны нулю (см. стр. \pageref{def_a_b}). | ||
+ | |||
+ | Средние значения, как обычно, вычисляются при помощи условной плотности вероятности (<math>\textstyle \Delta t\to 0 </math>): | ||
+ | |||
+ | :<center><math>\left\langle \,(x-x_0)^m\right\rangle =\int\limits^\infty_{-\infty} (x-x_0)^m \; P(x_0,t_0 \Rightarrow x,t_0+\Delta t)\, dx.</math></center> | ||
+ | |||
+ | При вычислении предела <math>\textstyle \Delta t \to 0</math> сначала необходимо проинтегрировать, вычислив среднее, затем полученную функцию от <math>\textstyle \Delta t</math> разделить на <math>\textstyle \Delta t</math>, и только после этого устремить к нулю <math>\textstyle \Delta t \to 0</math>. | ||
+ | |||
+ | Мы видим, что снос и диффузия естественным образом появляются как в уравнениях для плотности вероятности случайного процесса, так и в стохастических дифференциальных уравнениях при записи их через разности. | ||
+ | |||
+ | В результате, вводя коэффициенты сноса и диффузии, получаем "''первое уравнение Колмогорова''": | ||
+ | |||
+ | {| width="100%" | ||
+ | | width="90%" align="center"|<math> { \;\;\;\frac{\partial P}{\partial t_0} + a(x_0,t_0) \cdot \frac{\partial P}{\partial x_0} + \frac{1}{2}\;b^2(x_0,t_0) \cdot\frac{\partial^2 P}{\partial x_0^2} \;= 0\;\;\; }, </math> | ||
+ | | <div width="10%" align="right" style="color:#0000CC">'''(4.6)'''</div> | ||
+ | |} | ||
+ | |||
+ | где <math>\textstyle P=P(x_0,t_0 \Rightarrow x, t)</math>. Заметим, что производные в этом уравнении берутся не по будущим аргументам <math>\textstyle x</math> и <math>\textstyle t</math>, а по начальным <math>\textstyle x_0</math> и <math>\textstyle t_0</math>. | ||
+ | |||
+ | Если значение <math>\textstyle x_0=x(t_0)</math> задано точно, то первое уравнение Колмогорова необходимо решать с "начальными" условиями в виде дельта-функции Дирака: | ||
+ | |||
+ | {| width="100%" | ||
+ | | width="90%" align="center"|<math> P(x_0,t_0 \Rightarrow x,t) = \delta (x-x_0)\;\;\;\;\;при\;\;\; t\to t_0. </math> | ||
+ | | <div width="10%" align="right" style="color:#0000CC">'''(4.7)'''</div> | ||
+ | |} | ||
+ | |||
+ | Естественно, кроме этого предполагается наличие тех или иных граничных условий. В простейшем случае требуют достаточно быстрого убывания плотности вероятности при увеличении разности <math>\textstyle x-x_0</math> в любой момент времени <math>\textstyle t>t_0</math>. | ||
+ | |||
+ | |||
+ | ---- | ||
+ | |||
+ | |||
+ | <math>\textstyle \bullet</math> Выведем теперь второе дифференциальное уравнение для функции <math>\textstyle P(x_0,t_0 \Rightarrow x, t)</math> по "будущим" аргументам <math>\textstyle x,t</math>. Пусть процесс Ито в момент времени <math>\textstyle t-\Delta t</math> имеет значение <math>\textstyle x</math>. Спустя малый интервал времени <math>\textstyle \Delta t</math> он будет иметь значение <math>\textstyle y</math>: | ||
+ | |||
+ | {| width="100%" | ||
+ | | width="90%" align="center"|<math> y=x+a\, \Delta t + b \, \varepsilon \sqrt{\Delta t}, </math> | ||
+ | | <div width="10%" align="right" style="color:#0000CC">'''(4.8)'''</div> | ||
+ | |} | ||
+ | |||
+ | где <math>\textstyle a=a(x, t-\Delta t)</math>, <math>\textstyle b=b(x, t-\Delta t)</math>. Величина <math>\textstyle x</math> является случайной с плотностью распределения <math>\textstyle P(x,t-\Delta t)=P(x_0,t_0\Rightarrow x,t-\Delta t)</math>. Случайной и независимой от неё будет и <math>\textstyle \varepsilon</math> c гауссовой плотностью <math>\textstyle P(\varepsilon)</math>. В результате <math>\textstyle y</math> в момент <math>\textstyle t</math> также будет случайной величиной. | ||
+ | |||
+ | Чтобы найти распределение <math>\textstyle P(y,t)=P(x_0,t_0\Rightarrow y,t)</math>, необходимо вычислить среднее от произвольной функции (см. стр. \pageref{aver_fun_def}): | ||
+ | |||
+ | {| width="100%" | ||
+ | | width="90%" align="center"|<math> \left\langle F(y)\right\rangle = \int\limits^\infty_{-\infty} \overbrace{F(x+a\Delta t +b\varepsilon\sqrt{\Delta t})}^{F(y)}\cdot \overbrace{P(x, t-\Delta t) P(\varepsilon)}^{P(x,\varepsilon)} \,dx\,d\varepsilon </math> | ||
+ | | <div width="10%" align="right" style="color:#0000CC">'''(4.9)'''</div> | ||
+ | |} | ||
+ | |||
+ | и преобразовать его таким образом, чтобы получился однократный интеграл c <math>\textstyle F(y)</math> ''в момент времени'' <math>\textstyle t</math>. Обратим внимание, что, если в (4.8) <math>\textstyle x</math>, <math>\textstyle y</math> и <math>\textstyle \varepsilon</math> — это случайные величины, потенциально принимающие любые значения, то в (4.9) они же выступают в виде обычных вещественных переменных интегрирования. | ||
+ | |||
+ | Так как <math>\textstyle \Delta t</math> малo, разложим <math>\textstyle F(..)</math> в ряд, оставляя члены порядка не более <math>\textstyle \Delta t</math>: | ||
+ | |||
+ | :<center><math>F(x+a\Delta t +b\varepsilon\sqrt{\Delta t})= F(x)+\frac{\partial F}{\partial x}\,\bigl(a\,\Delta t + b\,\varepsilon \,\sqrt{\Delta t}\bigr) + \frac{1}{2} \frac{\partial^2 F}{\partial x^2} \,b^2\,\varepsilon^2 \,\Delta t +...</math></center> | ||
+ | |||
+ | Все функции справа вычислены в точке <math>\textstyle x</math> и в момент времени <math>\textstyle t</math>. Заметим, что в (4.8) функции вычислялись в момент времени <math>\textstyle t-\Delta t</math>. На самом деле их тоже необходимо разложить по <math>\textstyle \Delta t</math>. Однако эти ряды будут умножаться на <math>\textstyle \Delta t</math>, <math>\textstyle \sqrt{\Delta t}</math> и окажутся малыми более высокого порядка. Поэтому можно взять ведущее приближение разложения и считать в дальнейшем, что <math>\textstyle a=a(x,t)</math>, <math>\textstyle b=b(x,t)</math>. | ||
+ | |||
+ | Аналогично раскладывается плотность вероятности по <math>\textstyle \Delta t</math>: | ||
+ | |||
+ | :<center><math>P(x, t-\Delta t) = P(x, t) - \frac{\partial P(x, t)}{\partial t}\,\Delta t + ...</math></center> | ||
+ | |||
+ | Этим соотношением мы связываем плотности вероятности в два бесконечно близких момента времени, в результате чего в конечном уравнении появится частная производная по времени. | ||
+ | |||
+ | Подставим последние два разложения в (4.9), выдерживая порядок малости по <math>\textstyle \Delta t</math>. Интегрирование по <math>\textstyle \varepsilon</math> сводится к <math>\textstyle \left\langle \varepsilon\right\rangle =0</math>, <math>\textstyle \left\langle \varepsilon^2\right\rangle =1</math>, и в результате: | ||
+ | |||
+ | :<center><math>\left\langle F(y)\right\rangle = \int\limits^\infty_{-\infty} F(x)P(x,t)dx - \Delta t \int\limits^\infty_{-\infty} \left[ F\,\frac{\partial P}{\partial t} -\frac{\partial F}{\partial x}\;a P - \frac{1}{2} \frac{\partial^2 F}{\partial x^2} \; b^2 P \right] dx.</math></center> | ||
+ | |||
+ | Во втором интеграле <math>\textstyle F=F(x)</math>, <math>\textstyle P=P(x,t)</math>. Первый интеграл представляет определение искомого среднего ''в момент времени'' <math>\textstyle t</math> (переменная интегрирования <math>\textstyle x</math> может быть переобозначена в <math>\textstyle y</math>). Поэтому второй интеграл должен быть равен нулю. Интегрируя по частям один раз второе слагаемое в квадратных скобках и два раза третье (<math>\textstyle \lessdot</math> C), получим <math>\textstyle F(x)</math>, умноженную на выражение: | ||
+ | |||
+ | {| width="100%" | ||
+ | | width="90%" align="center"|<math> { \;\frac{\partial P}{\partial t} + \frac{\partial}{\partial x} \;\bigl[ a(x,t) \cdot P\bigr] - \frac{1}{2}\;\frac{\partial^2}{\partial x^2_{}} \;\bigl[ b^2(x,t) \cdot P \bigr]= 0\; }, </math> | ||
+ | | <div width="10%" align="right" style="color:#0000CC">'''(4.10)'''</div> | ||
+ | |} | ||
+ | |||
+ | которое должно быть равно нулю (в силу произвольности <math>\textstyle F(x)</math>). Это ''уравнение Фоккера - Планка'', или ''второе уравнение Колмогорова'' для плотности условной вероятности <math>\textstyle P=P(x_0,t_0 \Rightarrow x, t)</math>. | ||
+ | |||
+ | Решение уравнения Фоккера-Планка позволяет найти плотность вероятности условного перехода. Имея её, мы фактически знаем о марковском случайном процессе всё. Можем вычислять его среднее, волатильность, автокорреляционную функцию и отвечать на другие вопросы. | ||
+ | |||
+ | Естественно, кроме начального условия (4.7), предполагается наличие граничных условий для плотности вероятности. Так как мы знаем, что в момент времени <math>\textstyle t_0</math> значение <math>\textstyle x</math> было равно <math>\textstyle x_0</math>, то спустя ''конечный'' интервал времени цена или броуновская частица не могут "заблуждать" бесконечно далеко. Поэтому мы считаем, что плотность вероятности на бесконечности равна нулю. Это же требование возникает в силу ''условия нормировки'': | ||
+ | |||
+ | {| width="100%" | ||
+ | | width="90%" align="center"|<math> \int\limits^\infty_{-\infty} P(x_0, t_0 \Rightarrow x, t) \, dx = 1, </math> | ||
+ | | <div width="10%" align="right" style="color:#0000CC">'''(4.11)'''</div> | ||
+ | |} | ||
+ | |||
+ | имеющего смысл вероятности перехода "куда угодно". | ||
+ | |||
+ | Так как дифференциальное уравнение (4.10) линейно относительно функции <math>\textstyle P</math>, то решение не изменяется при умножении <math>\textstyle P</math> на произвольную константу. Её значение должно фиксироваться при помощи условия нормировки (4.11). | ||
---- | ---- |
Текущая версия на 18:18, 15 марта 2010
Марковские плотности вероятности << | Оглавление | >> Решение уравнения Фоккера-Планка |
---|
Найдём уравнение относительно переменных начального значения , . Для этого воспользуемся уравнением Чепмена-Колмогорова. Чтобы возникла производная по времени , необходимо рассмотреть и бесконечно близкое к нему время . Поэтому для трёх последовательных моментов времени в интегральном уравнении возьмём два соседних , и одно "будущее" :
Невозможно разобрать выражение (синтаксическая ошибка): {\displaystyle P(x_0,t_0 \Rightarrow x,t) = \int\limits^\infty_{-\infty} P(x_0,t_0 \Rightarrow y,t_0+\Delta t)\cdot \underbrace{P(y,t_0+\Delta t \Rightarrow x,t)}_{раскладываем\;по\;(y-x_0)} \;dy.}
Интервал мал и, следовательно, величина , соответствующая моменту времени , должна быть близка к в момент времени . Поэтому разложим в ряд Тейлора по , в окрестности точки , второй множитель под интегралом:
где . Вынесем множители, не зависящие от , за знак интеграла. Опуская пределы интегрирования, запишем:
Первое слагаемое соответствует условию нормировки (переход "хоть куда-нибудь"), и интеграл равен единице. В результате получается просто .
Перенесём направо и разделим обе части на . По определению, при мы можем записать:
что приводит к производной по начальному моменту времени .
Интегрирование по во втором и третьем слагаемых даёт условные средние моментов первого и второго порядков:
Если бы мы продолжили разложение в ряд Тейлора, то в этом уравнении стояли бы также моменты более высоких порядков , и т.д. Однако для диффузных процессов они по определению в пределе равны нулю (см. стр. \pageref{def_a_b}).
Средние значения, как обычно, вычисляются при помощи условной плотности вероятности ():
При вычислении предела сначала необходимо проинтегрировать, вычислив среднее, затем полученную функцию от разделить на , и только после этого устремить к нулю .
Мы видим, что снос и диффузия естественным образом появляются как в уравнениях для плотности вероятности случайного процесса, так и в стохастических дифференциальных уравнениях при записи их через разности.
В результате, вводя коэффициенты сноса и диффузии, получаем "первое уравнение Колмогорова":
(4.6)
|
где . Заметим, что производные в этом уравнении берутся не по будущим аргументам и , а по начальным и .
Если значение задано точно, то первое уравнение Колмогорова необходимо решать с "начальными" условиями в виде дельта-функции Дирака:
Невозможно разобрать выражение (синтаксическая ошибка): {\displaystyle P(x_0,t_0 \Rightarrow x,t) = \delta (x-x_0)\;\;\;\;\;при\;\;\; t\to t_0. } | (4.7)
|
Естественно, кроме этого предполагается наличие тех или иных граничных условий. В простейшем случае требуют достаточно быстрого убывания плотности вероятности при увеличении разности в любой момент времени .
Выведем теперь второе дифференциальное уравнение для функции по "будущим" аргументам . Пусть процесс Ито в момент времени имеет значение . Спустя малый интервал времени он будет иметь значение :
(4.8)
|
где , . Величина является случайной с плотностью распределения . Случайной и независимой от неё будет и c гауссовой плотностью . В результате в момент также будет случайной величиной.
Чтобы найти распределение , необходимо вычислить среднее от произвольной функции (см. стр. \pageref{aver_fun_def}):
(4.9)
|
и преобразовать его таким образом, чтобы получился однократный интеграл c в момент времени . Обратим внимание, что, если в (4.8) , и — это случайные величины, потенциально принимающие любые значения, то в (4.9) они же выступают в виде обычных вещественных переменных интегрирования.
Так как малo, разложим в ряд, оставляя члены порядка не более :
Все функции справа вычислены в точке и в момент времени . Заметим, что в (4.8) функции вычислялись в момент времени . На самом деле их тоже необходимо разложить по . Однако эти ряды будут умножаться на , и окажутся малыми более высокого порядка. Поэтому можно взять ведущее приближение разложения и считать в дальнейшем, что , .
Аналогично раскладывается плотность вероятности по :
Этим соотношением мы связываем плотности вероятности в два бесконечно близких момента времени, в результате чего в конечном уравнении появится частная производная по времени.
Подставим последние два разложения в (4.9), выдерживая порядок малости по . Интегрирование по сводится к , , и в результате:
Во втором интеграле , . Первый интеграл представляет определение искомого среднего в момент времени (переменная интегрирования может быть переобозначена в ). Поэтому второй интеграл должен быть равен нулю. Интегрируя по частям один раз второе слагаемое в квадратных скобках и два раза третье ( C), получим , умноженную на выражение:
(4.10)
|
которое должно быть равно нулю (в силу произвольности ). Это уравнение Фоккера - Планка, или второе уравнение Колмогорова для плотности условной вероятности .
Решение уравнения Фоккера-Планка позволяет найти плотность вероятности условного перехода. Имея её, мы фактически знаем о марковском случайном процессе всё. Можем вычислять его среднее, волатильность, автокорреляционную функцию и отвечать на другие вопросы.
Естественно, кроме начального условия (4.7), предполагается наличие граничных условий для плотности вероятности. Так как мы знаем, что в момент времени значение было равно , то спустя конечный интервал времени цена или броуновская частица не могут "заблуждать" бесконечно далеко. Поэтому мы считаем, что плотность вероятности на бесконечности равна нулю. Это же требование возникает в силу условия нормировки:
(4.11)
|
имеющего смысл вероятности перехода "куда угодно".
Так как дифференциальное уравнение (4.10) линейно относительно функции , то решение не изменяется при умножении на произвольную константу. Её значение должно фиксироваться при помощи условия нормировки (4.11).
Марковские плотности вероятности << | Оглавление | >> Решение уравнения Фоккера-Планка |
---|
Стохастический мир - простое введение в стохастические дифференциальные уравнения