Статистический анализ: Подход с использованием ЭВМ - Афифи А.
Скачать (прямая ссылка):
Замечания 4.1.1. * 1. Общая линейная модель просто записывается в матричных обозначениях. Пусть
ух1 = (г/1; . . ., уп)', 0рх1 = (э1; . . 6Р)', е"Х1 = (е1, . . ., еп)',
(Х')"*р =
41
*1п
г) Это наиболее общая форма теоремы в предположении единственности оценок. Дальнейшее обобщение можно найти у БпеИё (1959).
4.1. Основы теории общей линейной модели
227
В этих обозначениях равенства (4.1.2) и (4.1.3) соответственно принимают вид
У = Х'0 + е,
?(е) = 0 и cov(e) = a2I,
где 0 — нулевой вектор, а I —единичная матрица. Сумма квадратов, которую нужно минимизировать, теперь представляется в виде
S = (у - Х'0)' (у - Х'0),
а оценки наименьших квадратов оказываются решениями уравнений (называемых нормальными уравнениями):
(XX') 9 = Ху.
Если ранг X' равен р, то матрица XX' невырожденная и имеется единственное- решение нормальных уравнений
§=(ХХГ1(Ху).
Это так называемый случай полного ранга. Ковариационная матрица для 0 равна
cov(0) = cr2(XX'r1.
Если же ранг Х' = г<р, то оценки неединственны (случай неполного ранга).
2. Остаточное число степеней свободы vR равно и — г, где г = rank X'. Поэтому
„ц _ (у-Х'8Г(у-Х'8) R--(^=7)-• *
Пример 4.1.1 (продолжение). МНК-оценки для р0 и рг получаются минимизацией величины
S= t(yt~ Ро-Рл)2
по ро и рх. Эти оценки однозначно задаются равенствами (см. (3.1.5) и (3.1.6))
п
Yi (*; - *У.У1
Ро = У-М и р\ = -^-.
S (*< - Z)2
J'=l
Несмещенной оценкой для дисперсии сг2 служит
п
s2 = Е (У1 - Ро - Кф(п - 2), (=1
8*
228
Гл. 4. Дисперсионный анализ
так как в данном случае vR = п — 2. Применяя теорему Гаусса-Маркова, получим, что МНК-оценкой для р0 + 2рх будет
РГ+Й1 = Ро + 2Р].
Эта оценка обладает наименьшей дисперсией среди всех оценок для р0 + 2ръ линейно зависящих от уи уп.
Пример 4.1.2 (продолжение). МНК-оценки для ^ и [х2 получаются при минимизации величины
п я, п
5=2 (Уг - - №21? = 2 (У{ -1*1 • I)2 + 2 (У1 - 1*2- !)2
1 = 1 1=1 1=П1 + 1
по всем р-! и [л2. Эти оценки однозначно задаются равенствами
1 = 1 /=«!+!
Остаточная сумма квадратов Б5К равна
«1 пг
Т>(Уі-у1Т+ 2 (Ус-Уд2
1 = 1 /=іі + 1
а гк = пх + п3 — 2. Стоит отметить, что средний квадрат в2 = = МБК = ББр/гр совпадает с объединенной дисперсией ер, фигурирующей в соотношении (2.3.6).
4.1.2. Доверительные интервалы
Для получения доверительных интервалов значений параметров или функций от параметров нам понадобится предположение о виде функций распределения ошибок. Обычно предполагают, что они распределены нормально. И мы в этой главе будем считать, что
ех.....еп независимы и распределены по N(0, сг2). (4.1.8)
В этих предположениях можно показать, что 100 (1 —а)%-ный доверительный интервал для любой линейной комбинации
р
параметров \|з = 2 с$1 есть
4.1. Основы теории общей лииейиой модели
229
где \|5 = Ъс$1> а V($) — оценка дисперсии \|з. Поскольку оценка (=1
\|> линейно зависит от наблюдений, то ее можно записать в виде
п
$ = 2аг#г с известными постоянными щ. Отсюда имеем
1=1
V (*) = о2 2] а\, (4.1.10)
1=1
У(^) = 5221а?. (4.1.11)
?=1
где б2 — несмещенная оценка дисперсии а2 с vR степенями свободы.
Чтобы построить 100 (1—а) %-ные доверительные интервалы для нескольких линейных комбинаций параметров, можно применить формулу (4.1.9) к каждой из них. Однако'общая доверительная вероятность уже не будет равна 1 — а. Напомним, что решение этой задачи путем построения совместных доверительных интервалов для однофакторного дисперсионного анализа было описано в разд. 2.4. Методы построения совместных доверительных интервалов существуют и для общей линейной модели. Мы не будем рассматривать их в этой книге, но в следующем замечании сформулируем только принцип, лежащий в основе этих методов. Читатель, интересующийся этим вопросом, найдет его обсуждение у БспеНё (1959, с. 86).
Замечание 4.1.2. * Пусть ^ = а!в, — а,0 суть ц ли-
нейных функций от параметров 9 = (9Ь 9Р)' и векторы
аА, а„ линейно независимы. Пусть также .....% суть
МНК-оценки для 1^, ...,'чА, и 52 — обычная несмещенная оценка дисперсии а2 с ун степенями свободы. Если ввести обозначения
то 100 (1 —а) %-ное доверительное множество для задается неравенством
(Ч> - ¦$)' В 1 (Ч> - ¦$) <: ^2^!_а ^, хя),
где
Соу (?) = а2В. ?
230
Гл. 4. Дисперсионный анализ
Пример 4.1.1 (продолжение). Предположим, что е1г...,е„
независимы и распределены по N (0, о-2). Пусть г|> = 0-В0 + + 1 • Вх = рг. Оценка для г|) дается равенством
«=1
І = Рі = Е ЦУі, ГДЄ О; = (х{ — х)/ Е (х{ — х)2 Отсюда
2 (*/ - *)2
V (ц) = в2 —^-
Е (*/ - *)2
/=і
Е (*/ - *)2
Мы вновь получили выражение для оценки дисперсии параметра Рь задаваемой формулой (3.1.13).
Пример 4.1.2 (продолжение). Пусть еи ...,еп независимы и распределены по N (0, а2), а ч|з равно р^ — р,2. Оценкой для г|)
служит г|з = р-! — р-з = ух — у2, поэтому
а, --=
Мщ при 1=1,...,/%, 1/га2 при Ї =- /гг —|— 1, . . ., га
[оценкой для V (г|>) служит V (ф) = 4 ((1//%) + (1/и2))1. Отсюда получим 100 (1—а) %-ный доверительный интервал для разности р.! — (х2 (см. соотношение (2.3.7)):
