Спектральный анализ и его приложения Том 1 - Дженкинс Г.
Скачать (прямая ссылка):
4.3. Оценивание с помощью наименьших квадратов
145
Для двухпараметрической модели ортогональная параметризация имеет вид
Yi = B^Bt(X1-х)+Z1. (4.3.21)
Из (П4.1.7) получаем выборочные оценки наименьших квадратов
1
Г*_ SC*/ —x)(yi — у)
(4.3.22)
и из (П4.1.9)
где
N
ЕС*-*)2
^гИ=-жЬг (4-3-23)
dov[e,, в;] = о,
{I (У/ - У)2 - (?)21 U, -хУ]. (4.3.24)
100(1—а) %-ная доверительная область для 8ь 02 является эллипсом
N (ol - ?;)2 + (о2* - G2*)2 2 (JC1 - xf < 2s2A N-2(1 - а), (4.3.25)
который не имеет члена е произведением переменных из-за отсутствия корреляции между оценками. Типичная доверительная область такого вида показана на рис. 4.4, б. Поскольку в этом случае оси эллипса параллельны осям параметров, можно определить отдельные доверительные интервалы для каждого из двух параметров.
Если k>2, то способ вычитания среднего значения Х\, как это делалось в (4.3.21), не приводит к ортогональной параметризации. Однако при этом оценки становятся ближе к ортогональным, чем без вычитания средних, и, в частности, они будут ортогональны к постоянной составляющей модели. Поэтому лучше подбирать модель вида
У і = 8, + B2 (xa - X2) + B3 (х13 -X3) + ... + h {xik - хл) + Z1,
(4.3.26)
чем модель
Y1 = 0, + B2X12 + B9X13 + . . . + Bkxik + Z1.
146
Гл. 4. Введение в теорию статистических выводов
В приложении П4.1 показано, что результаты этого раздела легко обобщаются на случай, когда Z; имеют произвольную матрицу ковариации.
Функция правдоподобия была введена в статистику Фишером, но, как отмечалось в разд. 4.2, Фишер использовал ее главным образом для получения оценок максимального правдоподобия, которые можно было бы затем использовать для оценивания в методе выборочных распределений. Использование же метода правдоподобия для выводов ведет свое начало от работ Барнарда [7, 8] и представляет собой совершенно другой подход к статистическим выводам. Подход Барнарда можно коротко сформулировать в утверждении, что распределения вероятностей полезны при описании данных до того, как они собраны, в то время как функции правдоподобия полезны при описании данных после того, как они собраны.
Важнейшая отличительная черта выводов, основанных на правдоподобии, заключается в том, что они очень ясно показывают, что выборочное пространство не связано с оцениванием. Это логично, ибо свойства выборочной оценки должны, несомненно, зависеть от имеющихся данных, а не от данных, которые могли бы быть получены.
Способ получения выводов, основанных на правдоподобии, можно резюмировать в следующем виде:
1. Выборочная плотность вероятности наблюдений предполагается полностью известной, за исключением нескольких неизвестных значений параметров.
2. Функция правдоподобия получается подстановкой в плотность вероятности тех значений, которые получили наблюдения в данном эксперименте.
3. Функция правдоподобия строится как функция от неизвестных параметров.
4. Находятся подходящие способы извлечения и суммирования информации, содержащейся в функции правдоподобия.
В качестве простого примера применения метода правдоподобия рассмотрим несколько искусственную задачу оценки среднего значения ц нормальной плотности вероятности, дисперсия которой о2 известна. Выборочная плотность вероятности (4.2.1) выборки, до того как собраны данные, имеет вид
4.4. ВЫВОДЫ, ОСНОВАННЫЕ НА ФУНКЦИИ ПРАВДОПОДОБИЯ
4.4.1. Основной метод
fl2...n(Xl> Х2
п
ехр
{
2 (X1
i = l
п
4.4. Выводы, основанные на функции правдоподобия
147
После того как данные получены, функция правдоподобия для д. оказывается пропорциональной экспоненте
Отсюда ^функция правдоподобия, рассматриваемая как функция от р, с точностью до множителя равна нормальной плотности вероятности со средним значением х и дисперсией а2/п. В противоположность этому в методе выборочных распределений X имеет нормальное распределение со средним значением ц. и дисперсией
Информация, даваемая функцией правдоподобия (4.4.1), по
существу содержится в ее среднем значении X (выборочная оценка максимального правдоподобия) и в ее дисперсии о21п. Таким образом, точность, с которой оценивается параметр, сразу видна на графике функции правдоподобия. Если функция правдоподобия сплюснута, то параметр оценивается неточно, так как значения параметра, удаленные от выборочной оценки максимального правдоподобия, имеют правдоподобие ненамного меньше, чем правдоподобие самой оценки. Обратно, если функция правдоподобия сконцентрирована около выборочной оценки максимального правдоподобия, то параметр оценивается с большой точностью.
В этом разделе мы рассмотрим интерпретацию функций правдоподобия и правила комбинирования этих функций.
Принцип правдоподобия. Принцип правдоподобия заключается в том, что если два эксперимента приводят к пропорциональным функциям правдоподобия, то выводы, получаемые из этих экспериментов, должны быть одинаковыми.
Предположим, например, что 8 транзисторов подвергаются проверке. До проведения эксперимента число дефектных транзисторов можно описать с помощью случайной величины R, выборочного пространства г = 0, 1, 2, ..., 8 и биномиального распределения вероятностей
