Математическая статистика - Варден Б.Л.
Скачать (прямая ссылка):
Далее, имеем
Т — & Т = сг (ух — rjj) + с.г у2 + с3 у3. (27)
Для того чтобы вычислить дисперсию Т, нужно (27) возвести в квадрат и найти математическое ожидание:
ст\ = ciSiVi — ^i)2 + Icic&fa — 17г) уг + 2с1с3?,(у1 — r?i) Уз +
+ 4&У2 + 2сгс3 $у2у3 + 4&У1- (28)
Каждое из математических ожиданий в правой части (28) можно легко вычислить, например:
&(У! - ЪГ- = & [2 ea(Xl -?дГ- =
= 22 eiiejl &(*i —bi) (*j —€j)=2 = V2-
i J i
Если таким же образом воспользоваться свойствами ортогональности матрицы (ejk), то найдем, что математические ожидания квадратов и произведений в правой части (28) равны сг2 и 0 соответственно. Таким образом, получаем
°т = (с? + С1 + с§) сг2, (29)
где Cj уже задано равенством (26). Следовательно, дисперсия (29) будет минимальной при
с2 = с3 = О,
168
Г л. VII. Метод наименьших квадратов
поэтому несмещенная линейная оценка с минимальной дисперсией задается формулой
Т = е? 4- Hi.
1 а
Но в точности такая же оценка получается и по методу наименьших квадратов. Этим завершается доказательство теоремы.
Геометрический смысл этой теоремы заключается в следующем. Пусть через наблюденную точку проходит плоскость, параллельная некоторой фиксированной плоскости. Несмещенной линейной оценкой Т является то значение параметра, которое соответствует точке пересечения фиксированной прямой G с плоскостью, проходящей через наблюденную точку. Надлежащим выбором фиксированной плоскости можно получить любую наперед заданную линейную несмещенную оценку. Если эта плоскость перпендикулярна прямой G, то получается оценка д с наименьшей дисперсией.
§ 32. Оценка дисперсии о2
Минимум квадратичной формы
9 = 2 (*<-?,)* (О
в предыдущих параграфах был обозначен символом Q. Ортогональным преобразованием (17) § 31 эта форма преобразуется в форму
Q = (yi — i?i)2 + ... + (&¦ — Vr)2 + Vhi + ¦¦¦ + Уп> (2) минимум которой равен
Q = у% 1 + • • ¦ + Уп- (3)
Этот минимум достигается в точке г), = ух, . . ., rjr = ут.
Математическое ожидание Q представляет собой сумму математических ожиданий квадратов у2г+\, ¦ ¦У2- Эти математические ожидания вычисляются так же, как в § 31 Г. Таким об-
разом, получаем
g Q = (п — г) о-2. (4)
Отсюда следует, что
можно использовать в качестве оценки для сг2. Эта оценка является несмещенной.
§ 32. Оценка дисперсии <тг
169
Если дисперсии наблюдений сг? неодинаковы, то вместо (1) нужно рассматривать форму
Q = 2 gkxi ~ ^)2- (6)
Однако подстановками
*'i bji (")
этот случай можно свести к предыдущему, и поэтому в качестве несмещенной оценки для дисперсии наблюдения с единичным весом снова получается выражение (5).
Ясно, что оценка (5) при малых п — г очень неточна и только с увеличением п — г ее точность повышается. Для уточнения этого высказывания нам нужно исследовать функцию распределения случайной величины Q. С этой целью мы предположим, что хг, .. ,,хп
— независимые нормально распределенные случайные величины с одинаковым квадра гичным отклонением сг. Совместная плотность вероятности (х1г. . ., хп) задается формулой
f(xx, . . ., хп) = сг"" (2я)“ 2 е~ ^ Г (8)
Если опять вместо xt посредством ортогонального преобразования ввести новые переменные yit то плотность вероятности (8) почти не изменится:
т Г 1 П
П 1 , 1 \1 j
д(Уи - • ч Уп) = & (2 л) 2 е 20 i_r, i . (9)
Следовательно, ух,. .., уп — независимые нормально распределенные случайные величины со средними значениями
г]и . . ., т)г, 0, . . ., О
и квадратичным отклонением сг. Случайные величины Уг+Jv, . . ., yja- имеют нулевые средние значения и единичные дисперсии. Поэтому сумма их квадратов
у2 = ^ -|----^ (10)
/ 0-2 0-2 v >
подчиняется распределению с п — т степенями свободы.
Математическое ожидание х2 равно п — г, что согласуется с формулой (5). При больших п — г случайная величина хг распределена приближенно нормально со средним значением п — г и дисперсией 2(п — г). Следовательно, отношение
п — г (п — г) а-3 а-2
