Теория статистических решений и психофизика - Леонов Ю.П.
Скачать (прямая ссылка):
1 (1.20)
*=L n
ко -i Do
где Dlf D2 — дисперсии величин X и У; kl2 = к21 — корреляционный момент связи величин (X, У). Если X и У некоррелированы, то матрица к является диагональной.
Апостериорные вероятности и наблюдения.
Формула Бейеса
Апостериорные условные вероятности р (i/j) и р (j/i) (см. равенства (1.10)) играют важную роль в теории вероятности, так как позволяют учитывать наблюдаемые изменения.
В результате наблюдения в опыте величины г/;-, связанной со случайной величиной X, априорные вероятности pt уточняются и переходят в апостериорные вероятности р [i/j). Этот процесс опи-
сывает влияние наблюдений на распределение вероятностей. Вся информация, таким образом, содержится в апостериорном распределении р (i/j). Если величины X и У независимы, то наблюдение значений величины Y не дает какой-либо информации о величине X. В этом случае
Р (^i) = Pi и, следовательно, не зависит от у.
В теории вероятностей существует соотношение, позволяющее переходить от априорных вероятностей к апостериорным и таким образом учитывать наблюдения. Это соотношение называется формулой Бейеса. В основе формулы Бейеса лежит соотношение между апостериорными вероятностями р (i/j) и р (j/i), выражаемое (1.8). Из определения этих вероятностей (1.8) следует
Р (^i)Pi = Р QU)Ph (1-21)
где pi — вероятности значений случайной величины X; pj — вероятности значений случайной величины Y.
Пусть сделано наблюдение какого-либо события А. В частном случае событие А может состоять в наблюдении значения какой-либо случайной величины z. Тогда, если событие А связано с величиной X, вероятность события А можно представить в виде
рЩ = Ърх{Щр1- (1-22)
I
Соотношение (1.22) называется формулой полной вероятности. Оно является аналогом определенного интеграла в анализе и позволяет «разложить» вероятность р (А) по вероятностям полной группы несовместных событий. Теперь, воспользовавшись равенством (1.21), имеем
Р (Mi)Pi = Р (f^)P (А), откуда на основании (1.22) получается формула Бейеса
Р(ШРг /т ооч
Р г/А) = V-----7777 • (х-23)
2j РхР (А/г)
Она позволяет перейти от априорного распределения pt величины X к апостериорному распределению р (i/А) и учитывает наблюдение в опыте события А. Как следует из (1.23), для такого перехода необходимо знать «обратные» апостериорные вероятности р (A/i) и априорные вероятности рь.
Одномерные случайные величины
Случайная величина X называется непрерывной, если непрерывна ее функция распределения F (х) (1.1). При этих условиях существует плотность вероятности / (х)
/ (х) = F'{x). (1.24)
В этом случае множеством значений случайной величины может быть, например, отрезок [0,1].
Основные свойства функции распределения непосредственно следуют из ее определения:
0<^(х)<1, F (—оо) = 0, F( оо) — 1,
где F (х) — неубывающая функция х.
Функция распределения F (х) (интегральный закон распределения) величины X равносильна (с точки зрения информации о X) функции плотности вероятности / (х).
Плотность вероятности / (я) может быть определена как вероятность попадания X в бесконечно малый интервал (х, х + Да:):
/(s) = lim + . (1.25)
Дх-»а
Основные свойства плотности функции вероятности / (х) следуют непосредственно из ее определения (1.25)
/ (а;) > 0, ^ / (х) dx = 1.
Имея F (х) или / (х), можно вычислить вероятность попадания значений величины X в отрезок [а, Ь]:
p{a<X<b) = F(b)-F(a), (Г. 26)
ь
р {а<^Х <^b) = \f (х) dx. (1-27)
а
Из (1.26) следует, что если F (х) непрерывна, то вероятность какого-либо определенного значения X = а равна нулю (парадокс нулевой вероятности).
Функции распределения непрерывных случайных величин
Равномерное распределение. Плотность вероятности случайной величины / (х), распределенной равномерно, имеет вид
/ (х) — 1 !(Ь — а), х еЕ (а, Ъ), / (х) == 0, х ф. (а, Ь).
(1.28)
Плотность вероятности в этом случае остается постоянной в интервале (а, Ъ).
Нормальное распределение. Плотность вероятности величины X имеет вид
__i_
f(x)=(2nD) 2 exp — -(а: ] (—оо<ж<оо), (1.29)
где т, D — математическое ожидание и дисперсия величины X соответственно.
Как следует из (1.29), нормальная плотность / (х) определяется двумя параметрами — т, D.
Интегральный закон распределения F (х), (1.29) можно выразить через табулированную функцию Ф (х) (функцию Лапласа) (таблицы в конце книги):
1 X (2
