Вероятность - Ширяев А.Н.
Скачать (прямая ссылка):
-00
ОО (У
Ш= y)dx=yi^e 202 •
-со
Поэтому
У) = к(х)'Ы(У)>
откуда следует, что величины | и г) независимы (см.- конец п. 8 § 6).
2. Убедительной иллюстрацией полезности введенного выше в § 7 понятия
условного математического ожидания является его применение к решению
следующей задачи, относящейся к теории оценивания (ср. с п. 8 § 4 гл. I).
Пусть (|, т)) - пара случайных величин, из которых | наблюдаема, а т)
наблюдению не подлежит. Спрашивается, как по значениям наблюдений над |
"оценить" ненаблюдаемую компоненту г)?
Чтобы сделать эту задачу более определенной, введем понятие оценки. Пусть
ф = ф (х) - борелевская функция. Случайную величину ф (|) будем называть
оценкой т) по g, а величину М [ц - ф (S)]2 (среднеквадратической) ошибкой
этой оценки. Оценку ф* (?) назовем оптимальной (в среднеквадратическом
смысле), если
Д = М[т) - ф* (?)]2 = inf М [г] - ф (S)]2, (5)
ф
где inf берется по классу всех борелевских функций ф = ф(д-).
252 ГЛ. II. МАТЕМАТИЧЕСКИЕ ОСНОВАНИЯ ТЕОРИИ ВЕРОЯТНОСТЕЙ
Теорема 1. Пусть Мг|2<оэ. Тогда оптимальная оценка Ф*=Ф*(?) существует и
в качестве ср* (х) может быть взята функция
Доказательство. Без ограничения общности можно рассматривать только те
оценки ф(?), для которых Мф2 (?) < со. Тогда, если ф (?) - такая оценка,
а ф* (?) = М (л ! ?), то
поскольку М [ф* (?) - ф (?)]2 5=0 и по свойствам условных математических
ожиданий
м [(л - ф* (?)) (ф* (?) - ф (?))] = М {M?(rj - ф* (?)) (ф* (?) - ф (?)])
I?]} =
Теорема доказана.
Замечание. Из доказательства теоремы видно, что ее утверждение
справедливо и в том случае, когда ? не только случайная величина, но и
произвольный случайный элемент со значениями в некотором измеримом
пространстве (Е, &). Под оценками ф - = ф (х) тогда следует понимать 27ДЗ
(Д)-измеримые функции.
Рассмотрим структуру функции ф* (х) в предположении, что (?, т]) -
гауссовская пара с плотностью, задаваемой формулой (4).
Из (1), (4) и (7.10) находим, что плотность /у, %(у\х) условного
распределения вероятностей задается формулой
Ф* (х) = М(л|? = х).
(6)
М [11 - ф (с)]2 = М [(ri - ф* (?)) + (ф* (?) - ф (?))]2 == = М [л - ф*
(?)]2 + М [ф* (?) - Ф (?)]2 + + 2М [(л - ф* (?)) (ф* (?) - ф (?))] 73= м
[л - ф* (?)]2,
= М {(ф* (?) - Ф (?)) М (л - Ф* (?) 1 ?)} = 0.
(у - т <л=))г
(7)
(8)
Тогда из следствия к теореме 3 § 7
СО
М(л|? = *)= 5 yf^i(y\x)dy = m(x)
(9)
И
- со
D(Л |1 = х) з= М[(л - м (Л | ? = *))2 \Ъ = х] =
со
- ОО
= сх.Н1-Р2).
(10)
§8 СЛУЧАЙНЫЕ ВЕЛИЧИНЫ II. 253
Заметим, что условная дисперсия D (г) J g = д:) не зависит от х и,
значит,
Д = Mjr| - М (г| 11 = х)]2 = о|(1 - р2). (11)
Формулы (9), (11) получены в предположении D?>0, Dr)>0. Если же D|>0, a
Dr) = 0, то они выполняются очевидным образом.
Итак, справедлив следующий результат (ср. с (1.4.16), (1.4.17)).
Теорема 2. Пусть (?, г)) - гауссовский вектор с D| > 0.
Тогда оптимальная оценка г) по с. есть
а ес ошибка
М (т) ?) = Mr] + cov|' л) (S-M*), (12)
А = М [т] - М (т) | В]2 = Dr) - (13)
Замечание. Кривая у (х) = М (г) 11 = х) называется кривой регрессии ц на
\ или г| по отношению к В гауссовском случае М (л | ? = х) - а +
Ьх и, следовательно, регрессия т] на | является
линейной. Поэтому нет ничего удивительного в том, что правые
части формул (12) и (13) совпадают с соответствующими частями формул
(1.4.16) и (1.4.17) для оптимальной линейной оценки и ее ошибки.
Следствие. Пусть ех и е2 - независимые гауссовские случайные величины с
нулевыми средними и единичной дисперсией и ? = fljSj о2е2, т) = Ь1е.1 -ф
Ь2е2.
Тогда Мз = Мт] = 0, Dl = a\-\-a\, Dr) = b\ + b\, cov(?, ц) = аф1 + t "А,
и если ai + ^X), то
= (H)
А = (15)
a? + ai 47
3. Рассмотрим вопросы отыскания функций распределения для случайных
величин, являющихся функциями от других случайных величин.
Пусть ? -случайная величина с функцией распределения Fx (х) (и плотностью
если таковая существует), ф = ф(х) -некото-
рая борелевская функция и т] = ф(|). Обозначая 1У = (-оо, у), находим
Fri(l/) = P(T1^1/) = P(T (Ю е 1И) = Р(1 ее ф-1 (/,,)) =
= J Fx(dx), (16)
чг* Су)
254 ГЛ. II. МАТЕМАТИЧЕСКИЕ ОСНОВАНИЯ ТЕОРИИ ВЕРОЯТНОСТЕЙ
что дает выражение для функции распределения F^ {у) через функцию
распределения F% (х) и функцию ф.
Так, если ц - al + b, а> 0, то
Если г) = ?2, то, очевидно, Fr](y) = 0 для у<. О, а для у^О
Обратимся теперь к вопросу отыскания плотности f^{y).
Предположим, что область значений случайной величины ? есть (конечный или
бесконечный) открытый интервал I = {а, Ь), а функция ф = ф(х),
определенная для хе/, .является непрерывно дифференцируемой и либо строго
возрастающей, либо строго убывающей. Будем предполагать также, что
ср'(х)фО, х е/.
Обозначим h (у) = ф-1 (у) и предположим для определенности, что ф (л:)
строго возрастает. Тогда для г/еф(7)
Аналогично, если функция ф (х) является строго убывающей, то
(17)
(У) = Р (Е2 У) = Р (- Vyj? Vy) =
= Fl(Vy)-Fl(-Vy) + P(l - Vy). (18)
Рц (у) = Р (л < У) = Р (Ф (I) =?= у) = Р (S < Ф"1 (у)) =
