Спектральный анализ и его приложения Том 1 - Дженкинс Г.
Скачать (прямая ссылка):
/и...лг(Уі' У2. • • •> У*) = /і2...лг(Ур Уа; • • - Улг I °' хі> • ¦ •> хп) X
X /l2... n(x\' • • •' xn)'
Совместная плотность вероятности fi2...n в правой части равенства представляет собой условное распределение yi при условии, что Xi
фиксированы, а плотность fiz...n описывает плотность вероятности Х{.
После получения данных можно выписать функцию правдоподобия
L(B) = L(O]X1, . . ., Xn)L(X1, . . ., xN).
Так как L(xi, xN) не имеет среди своих аргументов 0, то функция правдоподобия для O будет такой же (за исключением независящего от 8 множителя), что и функция правдоподобия L(Q\xi.....
xN), полученная, когда Xi рассматриваются как фиксированные, или не содержащие ошибок. Таким образом, знание распределения Xi никак не помогает при оценивании 0. Отметим еще раз, что метод выборочных распределений дает другой ответ на эту задачу, так
как дисперсия в равна
_ г 02 т
Г -"ч "І
154
Гл. 4. Введение в теорию статистических выводов
где математическое ожидание берется по выборочному пространству Xi *'. В методе правдоподобия выборочное пространство не имеет отношения к существу дела, а «дисперсия» функции правдоподобия дается все еще выражением (4.4.12) и, следовательно, зависит только от конкретных значений хі, которые получились в данных измерениях.
4.4.5. Методы извлечения информации из функции правдоподобия
Квадратичные правдоподобия. Логарифмическая функция правдоподобия (4.4.11) квадратична по параметру 6. В более общем случае, если модель линейна по параметрам, а ошибки распределены по нормальному закону, логарифмическая функция правдоподобия является квадратичной формой от параметров Qj. Следовательно, функция правдоподобия сама является многомерным распределением, и ее можно описать с помощью средних значений (выборочных оценок максимального правдоподобия) и матрицы ковариаций этого распределения. Из (3.1.19) мы видим, что матрица вторых производных
_ дЧ
является матрицей, обратной матрице ковариаций, соответствующей этому многомерному нормальному распределению.
Неквадратичные правдоподобия. Если модель нелинейна по параметрам или же выборочное распределение отличается от нормального, то функцию правдоподобия нельзя описать только с помощью ее первых двух производных. Как правило, для неквадратичной логарифмической функции правдоподобия лучше всего построить график всей функции. Задача получения выводов относительно 0 сводится в этом случае к задаче описания, или аппроксимации, функции правдоподобия самым простым возможным способом. В некоторых случаях получаются функции правдоподобия с несколькими максимумами; извлечь информацию из так*ой функции и кратко описать ее трудно. Если же на графике функции пра-
*> Рассуждения авторов в последнем подразделе не совсем точны. Если нам известны Xi, то вообще не имеет значения, как они получились и что они собой представляют, поскольку мы пользуемся условным распределением при фиксированных X,. Если же в нашем распоряжении имеются лишь искаженные ошибками значения х%, то мы не можем вычислить функцию L(BJX)... х^) и, следовательно, не можем получить из нее оценку для 9. Об оценках параметров функций, в случае когда независимые переменные содержат ошибки, ом. подробнее в книге Клепикова Н. П. и Соколова С. Н. «Анализ и плани-
?рвение экспериментов методом максимума правдоподобия», M., изд-во «Наука», 964, гл. 3. — Прим. перев.
4.4. Выводы, основанные на функции правдоподобия
155
вдоподобия имеется один максимум, то можно использовать способы, приводимые ниже.
В первом из них функция правдоподобия приближается нормальной функцией правдоподобия, а во втором подбирается такое преобразование параметров, чтобы функция правдоподобия преобразованных переменных была ближе к нормальной, чем до применения преобразования.
Способ 1. Приближение с помощью нормального распределения. Предположим, что функция правдоподобия не является нормальной, все же разумно приблизить ее с помощью нормальной плотности вероятности по параметру 6. Поскольку функция правдоподобия определена с точностью до постоянного множителя, приближение будет иметь вид
?(Є)»/Сехр( --к^(8-б)2), (4.4.13)
где 6 — среднее значение аппроксимирующего распределения и о2 — его дисперсия. Если «моменты» функции правдоподобия определить с помощью соотношений
/й= J QkL(B)dQ,
то, используя свойства нормальной плотности, можно найти константы К, 6 и а2 из (4.4.13):
O = ^-, (4.4.14)
д2 Vo 7i
Оценка среднего правдоподобия. Барнард [7] назвал
со . оо
9=j QL(Q) dB J L (б) dB (4.4.15)
выборочной оценкой среднего правдоподобия. Если L(G)—нормальная функция правдоподобия, -то выборочная оценка среднего правдоподобия совпадает с выборочной оценкой максимального правдоподобия, но в общем случае они будут различны.
Преимущество выборочной оценки среднего правдоподобия над оценкой максимального правдоподобия состоит в том, что первая учитывает форму всей функции правдоподобия, в то время как
156
Гл. 4. Введение в теорию статистических выводов
вторая характеризует только одну точку на кривой. Поэтому выборочная оценка максимального правдоподобия может вводить в заблуждение для малых выборок, если функция правдоподобия не является нормальной. Для больших выборок большинство функций правдоподобия стремится к нормальной плотности, так что выборочная оценка максимального правдоподобия вместе с ее дисперсией достаточны для описания всей функции правдоподобия.
