Спектральный анализ и его приложения Том 1 - Дженкинс Г.
Скачать (прямая ссылка):
разности у — Ox показаны в третьем ряду табл. 4.1. Мы видим, что они не содержат очевидных выбросов, которые могли бы вызвать сомнение в правильности модели.
Остаточную сумму квадратов (4.3.12) можно переписать также в виде
2(у,--6х,.)2 = (1-/-2)2у?. (4.3.13)
где
r== S хіУі
ЯВЛЯеТСЯ ВЫборОЧНЫМ КОЭффиЦИеНТОМ КОрреЛЯЦИИ Между Xi И Уі
(при условии, что линия регрессии проходит через начало координат)*'. Отсюда (4.3.12) можно записать в виде
2у5=(і-/-2)2у2 + /-22у?. (4.3.14)
Результат (4.3.14) показывает, что в этом примере сумма квадратов отклонений у от нуля может быть разбита на составляющую ггЦу\і равную сумме квадратов отклонений подобранной прямой линии от нуля, плюс сумму квадратов разностей между подобранными и наблюдаемыми величинами.
Результат (4.3.14) имеет много аналогов в спектральном анализе, как будет показано в последующих главах.
*> Хотя величины Xi могут и не быть реализациями случайных величин, удобно тем не менее называть г выборочным коэффициентом корреляции между х,- и Ці. — Прим. перев.
4.3. Оценивание с помощью наименьших квадратов
141
Дисперсия прогноза. Если модель (4.3.5) используется для прогноза будущего значения скорости у, соответствующего данному моменту времени х, то наилучшей выборочной оценкой у будет
у = О X + г,
где 2 = 0 является наилучшей выборочной оценкой ошибки. Соответствующая случайная величина имеет дисперсию
Отсюда 100(1—а)%-ный доверительный интервал для прогнозируемого значения имеет вид
у ±'„-1(1-4-)*]/ 1 + -^р (4-зл5>
Интервал (4.3.15) увеличивается с увеличением х, а также выявляет общее правило, заключающееся в том, что точность прогноза зависит от планирования эксперимента, т. е. от выбора х\.
4.3.3. Доверительные области для нескольких параметров
Распространение результатов разд. 4.3.2 на случай оценки нескольких параметров наиболее быстро получается с помощью теории матриц. Эти результаты выведены в приложении П4.1, а в настоящем разделе лишь кратко резюмированы. В приложении П4.1 показано, что доверительный интервал заменяется в случае нескольких параметров доверительной областью в ^-мерном пространстве параметров 6. Показано также, что еще одна интерпретация оптимальности оценок наименьших квадратов состоит в том, что они минимизируют объем доверительной области для параметров. Для любого отдельного параметра это означает, что оценка наименьших квадратов минимизирует длину доверительного интервала по координате, соответствующей этому параметру.
Для N измерений и k параметров результаты, выведенные в приложении П4.1, можно резюмировать следующим образом.
Нормальные уравнения:
(Х'Х)8' = Х'у, (П4.1.7)
или в скалярной форме
Pxry= S1ZV1 + ?2/Ч,2+ • • • +Wt (r=h2..... *>•
где, например,
N
PxГУ = 2 ХігУі-r і = 1
142
Гл. 4. Введение в теорию статистических выводов
Матрица ковариаций оценок:
C = (X^)-1g2, (ГШ .9)
или в скалярной форме
Px1X1 Px1X1 ' ' ' P*\Xk
Pх2х, PX2Xг ' * ' Pх2хъ
C = г
Pxkx, Pxkx2 ¦ ¦ ¦ Pxkxkl
Выборочная оценка остаточной дисперсии:
s2 = JT^k (У'У - Ух«) = -~j (У'У - в'Х'Хв), (п4.1.12)
или в скалярной форме
^ = IT=J (Руу-PxJ I - '••-Px
100(1 — а)°/0-ная доверительная область:
(в - в)' Х'Х (8 - в) < ks4kN__k (1 - а), (п4.1.15)
или в скалярной форме
TV N г=11
где
Pr -«)} = !-«•
Дисперсия прогноза:
Var [?] = а2 + X' Cx, (п4.1.18)
или в скалярной форме
Var [?] = а2+ 2 2 адCov (?, в,).
;=1(=1
Пример. Для иллюстрации приведенных выше результатов рассмотрим частный случай — двухпараметрическую модель:
^ = 01 + 8*** + ^. (4.3.16)
4.3. Оценивание с помощью наименьших квадратов
143
Выборочные оценки наименьших квадратов Bi и Во, получаемые из (П4.1.7), выведены в приложении П4.1.2. Они имеют вид
l~ yv2^_(2x)2 '
^v vv (4-3-17)
fi N Z *У ~ Zi * Zj У
Из (П4.1.19) получаем выборочные оценки ковариаций оценок
Var [в,] =¦
W S (х - *)2 '
^r[eJ=Tcrhr (4-зл8)
где выборочная дисперсия s2 получается из (П4.1.12):
*2=-дЛу {2 у2 - ?> 2 л -?2 2 } • (4-з.19)
Наконец, используя (П4.1.15), получаем 100(1 — а) %-ную доверительную область для 01, 02:
TV (б, - ?,)2 + (б2 - G2)2 2 + 2 (в, - O,) (O2 - в2) X
X 2 xi < 252A л'-2 (1 - «)• (4-3.20)
4.3.4. Ортогональность
В рассмотренном выше примере оценки наименьших квадратов для параметров модели (4.3.16) имели отличную от нуля ковариа-цию, а в уравнение доверительного эллипса для (B1, B2) входило
произведение вида (Bi — B4)(B2 — B2). Типичная доверительная область для модели (4.3.16) показана на рис. 4.4(a), где видно, что оси эллипса наклонены по отношению к осям (Bi, B2). Следовательно, нельзя определить доверительный интервал для Bi и 02 отдельно. В предельном случае очень высокой корреляции могло бы случиться, что очень широкий диапазон значений выборочных оценок был бы в согласии с данными.
Можно, однако, по-новому параметризовать эту задачу, так что полученные оценки будут некоррелированы, т. е. ортогональны.
о Неортогональные параметры
Рис. 4.4. Доверительные области для двух параметров.
