Численное решение задач метода наименьших квадратов - Лоуcон Ч.
Скачать (прямая ссылка):
Первый нз авторов познакомил второго с задачей наименьших квадратов в 1966 г. С тех пор авторы тесно сотрудничали в JPL*), адаптируя устойчивые математические методы к практическим вычислительным задачам. Данная книга является частью этой совместной работы.
Ч.Л. Лоусон Р.Дж. Хенсон
*)jPL - Jet Propulsion Laboratory - Лаборатория реактивного движения. {Примеч.
пер.)
6
ГЛАВА 1 ВВЕДЕНИЕ
Эта книга задумана одновременно как учебник и как справочник для лиц, которым приходится решать линейные задачи теории наименьших квадратов. Такие задачи часто возникают как составная часть некоторой более обширной вычислительной проблемы. Например, определение орбиты космического корабля нередко сводится математиками к решению многоточечной краевой задачи для обыкновенного дифференциального уравнения. При этом вычисление орбитальных параметров обычно требует нелинейного оценивания в смысле наименьших квадратов; в последнем используют различные схемы линеаризации.
Более общо, почти любая задача, в которой исходных данных достаточно для того, чтобы переопределить решение, требует применения того или иного метода аппроксимаций. Наиболее часто в качестве критерия аппроксимации выбирают метод наименьших квадратов.
При расчетах по методу наименьших квадратов часто встречаются дополнительные ограничения. Их стоит определить более точно, чтобы облегчить последующее построение алгоритмов. Опишем несколько примеров.
Задача может быть связана с некоторыми соотношениями равенства или неравенства между переменными. Она может требовать обработки столь большого объема информации, что главной проблемой становится распределение машинной памяти.
Во многих случаях цель вычислений по методу наименьших квадратов не исчерпывается тем, чтобы найти некоторый набор чисел, который "решает" задачу. Скорее, исследователь желает получить добавочную количественную информацию, описывающую связь решения с исходными данными. В частности, задача может допускать целое семейство различных решений, которые почти в равной степени удовлетворяют поставленным условиям. Исследователь может пожелать описать эту неопределенность и затем произвести выбор в указанном семействе в соответствии с некоторыми дополнительными требованиями.
В этой книге представлены численные методы решения задач теории наименьших квадратов, учитывающие высказанные выше положения. Эти методы успешно использовались большим коллективом инженеров и научных сотрудников, включающим авторов, в ходе выполнения программы NASA непилотируемых космических полетов.
Задача наименьших квадратов, которую мы здесь рассматриваем, в разных научных дисциплинах называется по-разному. Например, математики могут подойти к ней как к задаче отыскания для заданной точки
7
функционального пространства ближайшей точки в заданном подпространстве. Специалисты по численному анализу тоже нередко использовали этот подход, при котором в тени остается вопрос об ошибках входной информации. Вследствие этого теряется возможность извлечь выгоду из произвола, часто присутствующего в решении.
Статистики вводят в свою постановку задачи вероятностные распределения и используют для описания этой области термины типа регрессионный анализ. Инженеры приходят к этой задаче, занимаясь такими предметами, как оценивание параметров или фильтрация.
Главное состоит в следующем: когда эти задачи (сформулированные в любом иэ названных контекстов) достигают стадии конкретных расчетов, они содержат в себе одну и ту же центральную проблему, а именно последовательность линейных задач наименьших квадратов.
Эту основную линейную задачу наименьших квадратов (НК) можно сформулировать следующим образом:
Задача НК. Пусть даны действительная m X п-матрица А ранга к < <min(m, и) и действительный m-вектор Ь. Найти действительный п-век-тор х0, минимизирующий евклидову длину вектора Ах - Ь.
(В приложении А читатель может найти определения незнакомых ему терминов линейной алгебры.) Для обозначения задачи НК мы будем использовать символику Ах 3? Ь.
1а
16
т-п
Лх'Ь rank А-т-п
2а
Ах*Ь
rank А-п<т
Р и с 1.1. ранга .4
За
Ах-д гш* А-т<п
случаев задачи НК в
Ах-Ь rank А - k<m~n
1Ь
Ах*Ь
rank А-к<п<т
ЪЬ
т< п
Ах *Ь rank А-к<т<п
вии со сравнительной i
1т>яи
Эту задачу можно поставить и исследовать также и для комплексных А и Ъ. Комплексный случай встречается на практике гораздо реже, чем действительный. В то же время теория и численные методы для действительного случая непосредственно переносятся на комплексный.
Помимо приведенной формулировки задачи НК (в данном контексте) есть еще дополнительное условие: числовые данные, составляющие А и Ь, имеют лишь конечное число верных разрядов; последующие разряды совершенно не определены и, следовательно, произвольны. Это обычное для практики положение дел. Оно связано, в частности, с ограниченной точностью измерений или наблюдений. Важно в должной мере учесть эту ситуацию и с выгодой использовать ее для получения подходящего приближенного решения задачи. Мы будем обсуждать методы, позволяющие достигнуть этого, в особенности в гл. 25, 26.
