Теория вероятностей и случайных процессов - Тутубалин В.Н.
ISBN 5-211-02264-5
Скачать (прямая ссылка):
Теорема 1. (закон больших чисел). При п-*-оо S„/n->-a (в смысле сходимости по вероятности).
Замечание. Увидим, что константа а вычисляется следующим образом: a=Nlf(x(k)), если распределение х(О) (следовательно, и х(к) при любом к^О) есть стационарное распределение р.
Доказательство теоремы. Поскольку
233
M exp (itSJn) = M exp ^ j =
причем t/n-+-0 при n-*-oo, то предел Mexp (itSn/n) совпадает с пределом
lim Хп (Ц = lim Гх(0) + V(0) - + о =
П-»о» \Я / я—»оо I П \Я ] I
— exp (tv (0)).
Как и при доказательстве теоремы Хинтона (гл. 3, п. 2.2), получаем, что S„/n сходится по вероятности к случайной величине^ принимающей постоянное значение Я'(0)Л‘ (здесь t=V—1). Неплохо было бы доказать, что Х'(0)/i вещественно, и заодно указать способ вычисления этой величины. Принципиально X' (0) может быть найдено с помощью теоремы о неявной функции, но этот путь несколько громоздкий, и предпочтительнее следующие вероятностные рассуждения.
Предположим, что начальное распределение л совпадает со стационарным распределением р. Тогда М5„=па, где а определено в замечании к теореме. Хорошо бы установить, что Я' (0) =/а. Для этого продифференцируем (2) и положим <=0:
~ М ехр (itSn) — ina =
- лХ"-1 (t) )/(0) (rft) е («e(0)U* +
(о? [(/>(*)«)(«>(*)) iu +
+ ^-[^2(О4-0 = ^'(О) +
at
+ ? I (Р(П e) Mt)) ]|,_0 + ± [,P5(t) e] |,-o • (3)
Заметим, что член [«Я" (0 e] стремится к нулю при п-*оо (и достаточно малых (t). Действительно, так как ?*(*)> »ообще говора, есть некоммутирующая с Pt(t)
234
матрица, то —{*Pi{t)e\ является суммой вида УпР%(0Х dt *-о
X ^ PtW'jPz'*'1 (0е- Но в силу ограниченности ^-Я2(*) и
оценки \\Р% (ОН < се~ак вся эта сумма оценивается как
п • const • е-в* е-а(я-‘+1> _ п . const . в-“(я~‘> _* q ПрИ п->оо.
Величина -j- [(р(/) e)(ire(/))] также ограничена. Следователь-dt
но, разделив обе части (3) на пи устремляя п к бесконечности, получим, что
Х'(0) = ia, т. е. >.'(0)Н = а,
что и требовалось доказать. Доказательство закона больших чисел закончено.
Для формулировки центральной предельной теоремы введем нормированную сумму s„ = (Sn—na)/Hn несколько иначе, чем для суммы независимых одинаково распределенных случайных величин. Для суммы независимых случайных величин нормировка включала деление на оУп, где о2—дисперсия отдельного слагаемого. В случае величин, связанных в цепь Маркова, дисперсия DS„ не равна сумме дисперсий слагаемых f(x(k)), потому что между этими слагаемыми могут быть ненулевые ковариации. Легко понять, что ковариация
cov {f(x(k)), (f(x(m)))}=mf(x(k)) -
- Мf(x (к)) } (fixim)) - Мf(x(m)) }
стремится к нулю при Iк—т|-*-оо экспоненциально быстро. Действительно, выразим при к<.т математическое ожидание через условное математическое ожидание
ГЛ(Цх(к)) - fAf(x(k))){f(x(m)) - М/(*(«))> =
= M!Ax(k)if(x(k)) - Щ(х(к))) {fixim)) - =
= M(f(x(k))-Mf(x(k))}Mx(lt){f(x(m))-Mf(x(m))>. (4)
В силу эргодичности при т—k-*-oo условное распределение х(т) при известном х(к) стремится к стационарному экспоненциально быстро; следовательно, условное математическое ожидание М*(*| мало отличается от безусловного M{f(x(m)) — —ТЛ{(х(т)))=0. Поэтому при т—к-+оо правая часть (4) стремится к нулю экспоненциально быстро.
Но при близких кит ковариации f(x(k)) с fixim)) существенны. За счет них дисперсия DS„ может вести себя довольно странно, например не стремиться к оо при п-*-оо. Понятно, что так будет всегда в тривиальном случае /(Х) = =const. Но можно себе представить, например, что *{х)ф
235
т?const, но переходы в цепи Маркова устроены так, что за любым состоянием х, таким, что /(х) = 1, следует состояние у, такое, что f(y)=—1 (а в остальных точках f(x)= 0). Тогда
на первый взгляд /(*)=?const, но в сумме S„ одни слагаемые
с вероятностью 1 уничтожаются другими (цепь же вполне может быть эргодической). Мы сейчас частично поисследуем, какова может быть дисперсия суммы Sn.
Предположим, что из значении функции f(x) при всех *е{1, . . . , Л') вычтено значение а, т. е. Х'(0) = 0. Продифференцируем дважды по t выражение (2), пренебрегая (как и при доказательстве закона больших чисел) членом теPi(t)e:
^ М exp (itSn) = ^ |/”(0(р(0е)М0)} + о(1) =
= ? 1 (0 X' (/) (p(t) е)(*е (0) +
+ (0 ? [(/KOKOMO)] J + о(1) =
- пХя-‘(0 /"(/) (p(t)e) (те (0)4-+ п(п- 1)>"-2 (0(Х'(0)* (р(0 е)(ке(0) +
+ 2п Xя-1 (<) >/(<) -±- [(/>(/) е)(тее(*» 1 +¦
+ >-n(0“-[(P(0«)(«(0)]+o(lJ..
Теперь положим * = 0. Получим, учитывая, что Х(0)«1, Х'(0) = 0, р(0) = р, е(0) = е,
— D5» - “ М ехР (t75")|/=o “
=пХ" (0) + Yt К/КО «Х«(0)]|_0+ °<1).
