Теория вероятностей для астрономов и физиков - Агекян Т.А.
Скачать (прямая ссылка):
Отметим, что при п = т система (4.81) имеет единственное решение, даваемое формулами Крамера:
тп
Xj — -К- 2 АіУі» i=l
(4.85)
где D — определитель системы (4.81), неравный нулю, так как ранг матрицы R = т, a DiJ- алгебраическое дополнение элемента а1}.
Будем считать, что R = т, п > т. В этом случав система (4.81) называется избыточной системой. МЕТОД НАИМЕНЬШИХ КВАДРАТОВ
199
Если бы величины Уі измерялись точно, т. е. случайные ошибки бг были бы равны нулю, то, по предположению, в системе (4.81) с Yi вместо yt какие-то п — т уравнений были бы следствием остальных т уравнений, избыточная система (4.81) решалась бы однозначно, т. е. существовала бы такая, притом единственная совокупность значений (Z1, z2, . . ., zm), которая точно удовлетворяла бы всем уравнениям избыточной системы.
На самом деле измерения величин уі содержат случайные ошибки, и уравнения избыточной системы с Yt вместо Уі в какой-то мере противоречат друг другу. В общем случае не существует такой совокупности значений (Z1, х2, . . ., zm), которая при подстановке в уравнения (4.81) с Yi вместо уі обратила бы эти уравнения в тождества.
Для любой совокупности значений (Z1, z2, . . ., хт) определим величины
Величины Ei называются невязками.
Имеется возможность при данном измеренном ряде значений Ух, Y2, . . ., Yn найти такую совокупность значений Z1, х2, . . ., zm, которая удовлетворяла бы принципу наибольшего правдоподобия. Для этого в представлении (4.80), поскольку коэффициенты аі} точно известны, будем рассматривать Z1, z2, . . ., хт как параметры функций Уі, и определим точечные оценки этих параметров.
Исходя из распределений (4.83), найдем плотность вероятности случайной выборки (У1? Y2, . . ., Yn):
Согласно принципу максимального правдоподобия точечными оценками X1, z2, . . ., zm являются те значения, которые обращают в максимум плотность вероятности (4.87). Очевидно, что максимум (4.87) достигается, когда
т
Bi=Yi- 2 Я«®;» » = 1,2,
., П.
(4.86)
/n (*i, Z2,..., Zn) = (б0/2я)-пе 200 ОЦЕНИВАНИЕ ПАРАМЕТРОВ РАСПРЕДЕЛЕНИЙ іГЛ. 4
функция
» m
0)(3?,;?, ...,хта)= S [*i — 2-Л) - min- (4-88)
Функция (4.88) имеет минимум при значениях X1, xt, . . ., Xm, обращающих в нуль все ее частные производные:
» m
4" 1?"= S («. - 2 ад) =
m
= 2 ®i'.zi - 2? 2 aUiaH = 0, ft = 1, 2,..., /». (4.89) i=i
}=i »=i Если обозначить
Ck; = 2 aHiaU
1=1
(4.90)
и заменить Z1 на уто система уравнений (4.89) в развернутом виде запишется так:
»
CuZ1 + CliXi + ... + ClmXm = 2 ailfi>
1=1 п
CnX1 + C22Z2 + ... + CimXm = 2 аиУі>
1=1
Cml-rI +CmaajS+ • • • + Cn
2 «imfl-1=1
(4.91)
Система уравнений (4.91) называется нормальной системой избыточной системы (4.81). Матрица ее коэффициентов, очевидно, квадратная и симметричная.
В высшей алгебре доказывается следующая теорема: если матрица (4.84) имеет ранг т., то матрица (квадратная) коэффициентов, построенных по правилу (4.90), имеет ранг т.
Раз ранг матрицы Q Cki | равен т, то определитель нормальной системы (4.91) отличен от нуля и система I 57] СУММА КВАДРАТОВ ОСТАЮЩИХСЯ ПОГРЕШНОСТЕЙ 201
имеет единственное решение. Согласно формулам Крамера
»
Щ = S ЬіУи (4.92)
t=i
где
m
h = 7Г S aA- (4-93)
Ic=I
D — определитель системы (4.91), DhJ — алгебраическое дополнение элемента chj-
Таким образом, чтобы получить точечные оценки величин X1, хг, . . ., Xnil необходимо по коэффициентам избыточной системы построить нормальную систему (4.91) и решить ее при помощи формул (4.92) и (4.93), где вместо у і подставлены результаты измерений Yi.
Отметим важное свойство найденного решения. Сравнение (4.88) и (4.86) показывает, что сумма квадратов невязок условных уравнений минимальна, когда вместо X1, Xi, . . ., хт подставлены их точечные оценки. В этом случае невязки называются остающимися погрешностями.
Требование к совокупности неизвестных, чтобы она обращала в минимум сумму квадратов невязок для избыточной системы (4.81), называется принципом наименьших квадратов или принципом Лежандра. Мы видим, что совокупность значений X1, хг, . . ., хт, полученных при решении нормальной системы (4.91), отвечает не только принципу максимального правдоподобия, но и принципу наменыпих квадратов.
§ 57. Сумма квадратов остающихся погрешностей для точечных оценок неизвестных
Рассмотрим систему равенств (4.86). Помножим каждое из равенств на aih и полученные равенства просуммируем. После изменения порядка суммирования в двойной сумме и использования (4.90) находим
» » » т п т
S ®Л®» = 2 — S ®ik S auXi = 2 aHcYi — 2 cWarJ-
і—1 1=1 1-1 І=1 1=1 j=1
(4.94) 202 ОЦЕНИВАНИЕ ПАРАМЕТРОВ РАСПРЕДЕЛЕНИЙ іГЛ. 4
Так как точечные оценки X1, Xi, . . ., хт удовлетворяют нормальной системе (4.91), то из (4.94) следуют соотношения
»
SettBl = O, 2,...,m, (4.95)
I=X
которые справедливы для остаточных погрешностей, т. е. когда в условные уравнения подставлены точечные оценки неизвестных.
Помножим каждое из равенств (4.86) на е{; полученные равенства просуммируем и изменим порядок суммирования в двойной сумме:
