Математическая статистика - Варден Б.Л.
Скачать (прямая ссылка):
ГЛАВА УП
МЕТОД НАИМЕНЬШИХ КВАДРАТОВ
§ 30. Выравнивание ошибок наблюдений
Запросы астрономии и геодезии привели Гаусса к следующей проблеме:
Пусть vr — истинные значения каких-либо неизвестных
физических постоянных (например, значения элементов траектории некоторой планеты). Далее, пусть результатами наблюдений являются не сами дг, а некоторые другие величины х1г. .., хп (на-
пример, координаты положений планеты, наблюдаемые с земли в различные моменты времени). При этом предполагается, что истинные значения величин х1гхп определенным образом
зависят от . . ., $г:
Какие значения параметров ?,• лучше всего согласуются с наблюденными значениями х1г. .., хп?
Лежандр предлагал считать согласие «наилучшим» в том случае, когда сумма квадратов ошибок
минимальна. Теоретико-вероятностное обоснование этого подхода было дано Гауссом, который заметил, что если все наблюдения лишены систематических ошибок и имеют одинаковое квадратичное отклонение сг, то, согласно гауссовой теории ошибок, вероят ность того, что результаты наблюдения х{ будут лежать между
tt — * <5<,- и tt + j 5ti (г = 1, 2 . . . п), при малых bti приближенно равна
(1)
(2)
6W = cr "(2sr) 2 e 2“
П
1_ (?«.-€«)“
<7*
dt,... btn. (3)
При этом точки с координатами (f1; . . .,?„) принадлежат некоторому многообразию тг-мерного пространства, определяемому равенствами (1). Для заданных tt и btt вероятность 5W достигает
156
Гл. VII. Метод наименьших квадратов
наибольшего значения в той точке (?*,. . этого многообразия, в которой квадратичная форма
будет минимальной. Если в эту форму вместо tl подставить результаты наблюдений xt, то получится форма (2). Следовательно, по Гауссу, «наилучшими значениями» будут те значения,
которым соответствует наибольшая вероятность (3).
Впоследствии Гаусс дал другое обоснование принципа «наименьших квадратов», не зависящее от предположения нормальной распределенности хи . . ., хп. Отыскание оценки некоторого параметра й он сравнивал с азартней игрой, в которой нельзя выиграть, а можно лишь проиграть. Если Т выбрано в качестве оценки параметра х), то «проигрыш» от этого будет тем больше, чем больше абсолютная величина ошибки Т — Ь. За меру проигрыша Гаусс принял квадрат (Т — х))2 и потребовал, чтобы оценка удовлетворяла двум условиям: во-первых, она не должна иметь систематической ошибки, т. е. ?Т = д, и, во-вторых, дисперсия оценки <g(T — С)2, являющаяся математическим ожиданием проигрыша, должна быть наименьшей. Затем он доказал, что эти условия минимизации приводят в точности к методу наименьших квадратов.
Если результаты наблюдений имеют различные квадратичные отклонения <г1, . . ., <гп, то вместо формы (2), естественно, появляется форма
(если, как и в §26 Б, ввести веса дг,. .., дп, обратно пропорциональные дисперсиям erf, . . ., а-2).
В применениях этого метода к биологическим и экономическим задачам разности xt —f,- являются не ошибками наблюдений, а отклонениями величин х( от их математических ожиданий gj. Величины хi предполагаются независимыми и случайными. Их математические ожидания согласно (1), зависят от неизвестных параметров е1(. . х)г. В качестве оценок для в1( . . ., Иг принимают такие значения этих параметров, для которых форма (5) достигает своего минимума.
При отыскании минимума полагают
(Xi—Si)2 (z2— fa)2 (xn — gn)2
(4)
или форма
Q = 01 (*1 — fl)2 + • • • + 0n (Xn — fn)2,
(5)
(6)
§ 30. Выравнивание ошибок наблюдений
167
где С® — предварительные приближенные значения для а и, v,. . . — поправки. Предполагается, что при малых и, v,. . . функции (1) можно достаточно точно приблизить линейными функциями
?/=?? +Я,¦« +Ь/0 +-------- (?)
Величины ?4 являются приближенными значениями соответствующими предварительным приближениям €°:
Я = ?#°).
В качестве коэффициентов а0 bt,. . . линейных приближений
(7) можно выбрать значения частных производных от функций
(1) в точке (SJ,. . ., С®):
Для упрощения вычислений мы будем предполагать, что
начало координат в пространстве переменных хх,. . хп перенесено в точку . . .,?„)• Таким образом, вместо х{ мы вводим в
качестве новых переменных наблюденные отклонения
i/ = *!-??• (9)
Их математические ожидания равны:
h=?i-fl = ai* + b,v + .... (10)
Форма Q теперь запишется так:
Q = 2 9i(h -А,-)2 = 21 - «/« - Ь|® - • • О2- (И)
Координаты (и, v,. . .) точки минимума этой формы удов-
летворяют системе уравнений, получающейся приравниванием нулю частных производных (11). После деления всех производных на 2 получаем
2 (ffli (aiu + btv + . . .— lt) = 0, )
