Физическая энциклопедия Том 4 - Порохов А.М.
Скачать (прямая ссылка):
Точечное оценивание. Пусть распределение случайной величины х — заданная ф-цня р(х\а) с неизвестными параметрами а, а х = Orltzs,...,:cjv) — веитор возможных значений х. Точечное оцепнвапие заключается в выборе ф-цин вJv = «(*)» значение к-рой при заданном х можно кспользовать вместо параметра а в пачестве его приближённого значения. Ф-цию в(х) иаз. оценкой параметра в, принцип выбора ф-цни — методом оценивания. Очевидно, что можно предложить миого оценок, поэтому необходимо изучить следующие оси. свойства оценок.
Состоятельность. При увеличении объёма N наблюдений (измерений) оценка должна приближаться к истинному значенню параметра. Оцепку a^ называют состоятельной по вероятности, если для любых е, т) > 0 существует такое N, что вероятность реализации неравенства |ау — а| > е| будет меньше т|. Примером состоятельной оцепин служит выборочное среднее X= (X1 -{- X2 -j- ... -\-Xfl)/N, к-рое является оценкой ср. значення величины х = ^Лсхр(х), если
ф-ция плотности вероятности р(х) имеет конечную дисперсию.
Смещение. Под смещением оценки <Xjv принято понимать отклоненне её ср. значения aN{x) от истинного значения a: bjy(ajv) = an — а. Оцепку aN наз. несмещённой, если при любых Nna нмеем
bjv(<zjv) = 0, нли aN = а. Несмещённая оцеяка обычпо предпочтительнее смещённой, т. к. смещение является систематич. ошибкой в оценке, к-рая зависнт от истинного значення параметра а и поэтому редко поддаётся вычислению. Выборочное среднее является несмещённой оценкой, тогда как выборочнап дисперсия
А = 2 (хп “ x)*/N является смещённой оценкой дке-
M
Персии о1.
Эффептивиость. Простейшей характеристи-
иой точности оценки пвляется ср. заачеиие квадрата её расстояния от истинного значения:
^*л)=М{<ал—a)*}=D(e*H-b*, где D(ajy) — дисперсия оценки aN, равная
D(aw)=M{ Jajv- М(а^)]8}.
Дисперсия характеризует «ширину» распределения, т. е. «шумовую» составляющую ошибки d*(aflf) оценки адг. Поэтому в классе оценок с .данным смещением bN предпочтительнее оценка с мир. дисперсией. Справедливо неравенство Крамера — Pa о:
(а). (1)
к-рое и определяет максимально достижимую точность (в смысле d*(ajy) в классе оценок с данным смещением bN по выборке дг. Величину
где q(aw I а) —ф-цня плотпостн распределения а^, называют количеством информации по Р. Фишеру (R. Fisher) о параметре а в оценке ajy(x). Величину
где Ца\х) = ШрЫ«) ~ ф-цня правдоподобия, а р{х\а) — плотность ф-цнн распределения х, называют количеством информации по Р. Фишеру о параметре в выборпе х. В классе несмещенных оценок
,В(і/ч)>1//в-м(в)^1//я.(в) (3)
н информац. смысл величин I $ (а) и I (а) становится
• W х '
очевидным: нх значенне определяет минимально достижимое расстояние aN(x) от а. Первое неравенство в (I)t (3) превращается в равенство лншь тогда, ногда ф-цня плотности распределения оценпн имеет экспо-ненц. форму:
в(а|а)=ехрМ(а)а+Я(д)-К(а)1, (4)
Еслн
J(Ua)=Ma)* (5)
то и второе неравенство в (1), (3) превращается в равенство. Такую оценку называют эффективной в смысле Крамера — Рао. Оценку, для п-рой выполняется равенство (5), т. е. такую, в к-рой количество информации о параметре а такое же, как в самой выборке х, называют достаточной статистикой. Условней существования достаточной статис-ткки а (ж) является факторизация ф-цин правдоподобия: L(a I дг) = g(ata)h(a,x). Неравенство Крамера —
Рао полезно тем, что позволяет ещё иа стадии планирования эксперимента оценить максимально достижимую точность «измерения» параметров изучаемых распределений.
Требования (3) и (4) являются достаточно жёстпими, поэтому прн конеч&ых N эфф. оценки редки. В связи с зткм рассматривают поведение Dfajy) прн N -* оо и каз. оценку асимптотически аффективной, еейн прн N-* оо D(dfr)/X(a) -**¦!. Заметим, что
асимптотич. несмещённорть следует иа состоптельности оценки. Рассмотрим наиб* общие р распространённые методы получения точечных оценок.
Метод мак си мума правдоподобия (подробнее CM. Максимального правдоподобия метод).
43*
СТАТИСТИЧЕСКОЕ
СТАТИСТИЧЕСКОЕ
В этом методе вероятность реализация вектора наблюдений ДГ, Р(х\а)~ Hn/>(*nle), после подстановки в неё реализовавшихся ана^екйй х рассматривают как ф-цию параметров а и называют ф-цией правдоподобия: L(a Ix) — В(х I а). В качестве оценки в методе макс. правдоподобия для вектора параметров а берут то значение а, к-рое соответствует* макс. значению ф-ции правдоподобия. При яек-рых общих предположениях оценки в методе м$кс. правдоподобия состоятельны, асимптотически эффективны и асимптотически нормально распределены.- При конечных N оценка в методе макс. правдоподобия ‘^еет оптим. свойства только в том случае, когда существует достаточная статистика.
Метод наименьших квадратов (подробнее см. Наименьших' Квадратов метод). В этом методе в качестве оцеккц вектора параметров а берут то значение а, к-jpos соответствует минимуму квадратичной формы.
ф== 51 t xn—Xnia)]D 1
пт
п,т
где D — матрица ошибок измерений хп. Прн нек-рых общих предположениях оценка в методе па им. квадратов состоятельна и асимптотически нормально распределена, по пе является асимптотически эффективной. Если Sn — липейные ф-цни параметров а, то в классе лииейиых несмещённых оценок оценки щ в методе иа-им. квадратов имеют паим. дисперсии.