Численное решение задач метода наименьших квадратов - Лоуcон Ч.
Скачать (прямая ссылка):
|| W,\\ <(« + 1 _,)«/2|г..| (635)
Обозначим через i'-е сингулярное число Wj. Согласно теореме 5.12,
можно написать
s, = cj/1 ) < < ... < cji(/). (6.36)
Так как = \\Wt ||, то (6.35) и (6.36) вместе устанавливают верхнюю оценку для Sj в (6.32). Теорема 6.31 доказана. Упражнение
6.37. Пусть А - m X п- матрица со столбцами а/. Тогда Ы II < я 1/2 max II л;-1|.
30
ГЛАВА 7
ПСЕВДООБРАТНАЯ МАТРИЦА
Если А - невырожденная и X л-матрица, то решение системы Ах = Ь можно записать в виде х=А'1Ь, где А~1 - (единственная) обратная матрица для А. Обратная матрица — это очень полезное математическое понятие даже при том, что эффективные и надежные современные методы [7,11] для решения системы Ах = b не требуют явного вычисления Л-1.
В случае задачи НК возникает вопрос: существует ли и X m-матрица Z, однозначно определяемая матрицей А и такая, что (единственное) решение минимальной длины задачи НК выражается формулой x = Zb. Такая матрица Z действительно существует; она называется псевдообратной для матрицы А. Как и обычная обратная, псевдообратная матрица — полезное математическое понятие, но при решении задачи НК ее, как правило, не вычисляют в явном виде.
Следующие две теоремы приводят к конструктивному определению псевдообратной для m X и-матрицы А.
Теорема 7.1. Пусть А - m X п-матрица ранга к с ортогональным разложением A = HRKT, удовлетворяющим предположениям теоремы 2.3. Тогда единственное решение минимальной длины задачи НК выражается формулой
01 НТЬ. .>, (7.2)
Г яг!
= К
lo-
ci
До казательство. Формула (7.2) есть просто иной способзаписи равенств (2.5)-(2.7) и (2.11).
Теорема 7.3. Пусть A = HRK т, как и в теореме 7.1,
кг! О
Z = K
нт.
Матрица Z однозначно определена матрицей А и не зависит от конкретного ортогонального разложения А.
Доказательство. Для каждого /, 1 <j<m, /-й столбец z; матрицы Z можно записать в виде z; =Ze;, где е; -/-й столбец единичной матрицы/т г Согласно теореме 7.1, г,- - единственное решение минимальной Длины для задачи наименьших квадратов Ах ^ еу. Теорема 7.3 доказана.
Исходя из теорем 7,1 и 7.3, дадим следующее определение.
Определение 7.4. Для произвольной m X п-матрицы А псевдообратная матрица, обозначаемая через А*, - это п X т-матрица, j-й столбец Zj которой является единственным решением минимальной длины для задачи наименьших квадратов Ах, s е;, где еу - j-й столбец единичной матрицы Im.
Это определение с учетом теорем 7.1 и 7.3 непосредственно приводит к записи решения минимальной длины задачи НК в виде
х=А+Ь. (7.5)
31
Следующие два случая заслуживают специального упоминания. Для квадратной невырожденной матрицы В псевдообратная матрица совпадает с обычной обратной:
В+=В-1. (7.6)
Для т X л-матрицы
Я,, 0] 0 0 J '
где R11 - невырожденная к Х?-матрица, псевдооорвянш - это и X /и-матрица вида
R-Л 01 0 0 J
(7.7)
Псевдообратную для т X л-матрицы А можно охарактеризовать и другими способами. Каждая из двух следующих теорем дает иную ;характе-ризацию псевдообратной матрицы.
Теорема 7.8. Если А = HRK Т - произвольное ортогональное разложение А, удовлетворяющее условиям теоремы 2.3, то А* = KR*H т, где R * задана формулой (7.7).
Теорема 7.9 (условияПенроуза [138]). Псевдообратная А* для m X n-матрицы А - это единственная n X m-матрица X, которая удовлетворяет следующей системе условий:
я)АХА=А; Ь)ХАХ = Х; с)(АХ)т=АХ; d)(XA)T=XA.
Доказательства этих двух теорем предоставляются читателю в качестве упражнений.
Явное представление А* , указанное в теореме 7.8, особенно полезно для вычислений. Если, например, для А имеется ортогональное разложение (3.20) и Л11 в (3.21) - невырожденная треугольная матрица, то
л'-*[оГ' о]"г- <"<»
Если же имеем сингулярное разложение (4.2), описываемое в теореме 4.1, то
A + = VS*UT. (7.11)
Как отмечено в начале этой главы, обычно нет нужды в явном построении псевдообратной для матрицы А. Например, если целью вычислений является решение задачи НК, то более экономично как по времени, так и по памяти разбить процесс решения на следующие три шага (которые, по существу, повторяют доказательство теоремы 2.3):
l)g=HTb; .'J,', ,7' (7.12)
2) решить относительно у\ систему R\\У\ =gi; (7.13)
3)х=К =А*Ь. (7.14)
за
Упражнения
7.15. Проверить формулы (7.6) и (7.7).
7.16. Доказать теорему 7.8.
7.17. [ 138J. Доказать теорему 7.9.
7.18. Доказать, что (А*) т = (А ТУ и (А*)* - А.
7.19. Если QmXn имеет ортоиормальные столбцы или ортоиормальные строки, то q* = qt. Если QmXn имеет Р8™" " и УДОвлетвориет условию Q* -QT, то столбцы Q ортонормальны.
7.20 [ 138]. Если Uit V имеют ортоиормальные столбцы, то (UA VT)* = VA*UT.
7-21. а) Пусть А - USV - сингулярное разложение А. Выписать выражения для сингулярных разложений четырех матриц Pt = А*А,Р1 =1 -A*A,Pt = АА*, Я4 = = / - -4/4* через матрицы U, S, V.
в) Вывести из (а), что матрицы Р{ являются симметричными идемпотентами и, следовательно,проекционными матрицами.
с) Пусть Т( — подпространство, ассоциированное с проекционной матрицей Р/, т.е. Т( ={х: PjX-x). Указать связь каждого подпространства 7/ с пространством строк или пространством столбцов А.
