Спектральный анализ и его приложения Том 2 - Дженкинс Г.
Скачать (прямая ссылка):
11.3. МНОГОМЕРНЫЙ АНАЛИЗ ВО ВРЕМЕННОЙ ОБЛАСТИ
В гл. 9—10 мы видели, что анализ взаимных спектров и оценивание частотных характеристик представляют собой распространение обычного корреляционного и регрессионного анализов на частотную область. Точно так же многомерный спектральный анализ и оценивание многомерных частотных характеристик представляют собой распространение идей анализа множественных корреляций и многомерного статистического анализа на частотную область. В этом разделе мы дадим обзор основных понятий множественной корреляции и множественного регрессионного анализа. Предполагается, что читателю полностью известен метод наименьших квадратов, изложенный в Приложении П4.1.
242
Глава 11
11.3.1. Множественный регрессионный анализ, единственный выходной процесс
Модель. Рассмотрим частный случай многомерной динамической модели (11.2.10), когда имеется только один выход, и предположим, что отклик системы на импульс затухает столь быстро, что ее можно эффективно описать с помощью установившихся усилений. Тогда после соответствующего изменения обозначений равенство (11.2.10) можно записать в виде
Xt(q+l)-nq+l= H1(Xn-X1) +h2(Xt2-X2)+ ... + hq(Xtq-Xq) + Zt,
(11.3.1)
где Zt — шум. Как отмечалось в разд. 4.3.4, из регрессионных переменных полезно вычесть их средние значения для того, чтобы при использовании метода наименьших квадратов оценки параметров оказались некоррелированными с оценкой среднего уровня p,g+i.
Нормальные уравнения. Предполагая, что шум Z1 белый и что наблюдения производятся в моменты t = \, 2, . .., N, получаем, согласно (П4.1.7), следующую систему нормальных уравнений:
(Х'Х) h = Х'х,
fiq + l — xq + li
(11.3.2)
где
X =
Xn — Xx Х2\ Х\
Xy2 X2 X22 X2
. ХNl ~ xl XN2 х2 •
h' = (A,, A2, hq),
х' = (xlq + \ ~ Xq + U x2q + l~xq+l> ¦•
С помощью выборочных оценок ковариации
xlq Xq x2q xq
X Nq xq
^Nq + l ~ Xq+\
(11.3.3)
)•
t=l
уравнения (11.3.2) можно записать в виде
Vq + l
(11.3.4)
(11.3.5)
*-q + l>
где Cqq — матрица ковариации входов, a cg+i —вектор взаимных ковариации между входами и выходом.
Многомерный спектральный анализ
243
Пример. При q = 2 модель (11.3.1) имеет вид
Xa-Vb = H1[Xf1-X1)+ H2(Xt2-X2)+ Zt, ' = 1.2.....N,
и оценочные уравнения (11.3.5) записываются следующим образом:
H1C11 + H2C12 = С[з, H1C21 + H2C22 = с2з, Аз = х3.
11.3.2. Множественная корреляция
Выражение (П4.1.11) для остаточной суммы квадратов после подгонки линии регрессии имеет вид
Sz2 = x'x-h' (X'X)h, (11.3.6)
или, воспользовавшись (11.3.4) и (11.3.5), его можно переписать в виде
Равенство (11.3.6) показывает, что остаточную сумму квадратов можно записать как разность между полной, или выходной, суммой квадратов и некоторой положительной величиной, называемой регрессионной суммой квадратов. Если регрессионную сумму квадратов записать в виде r2{q+1)12...a "и Д°ли полной суммы квадратов, то (11.3.7) перейдет в
Іг?-^<в+1)(,+І)(1-^+1)1ї...,), (П.3.8)
причем ^+0I2 , называется квадратом множественного коэффициента корреляции выхода xq+i и q входов. Дисперсию выхода можно записать и по-другому:
С(<7+1)(,+ 1) = '"(? + 1)12 ... /(? + »(?+1) + (1 ~ Г?<7+1)12 ... ?^(? + 1) (?+1)- (1 1-3.9)
Из (11.3.9) мы видим, что дисперсию выхода можно разложить на регрессионную сумму квадратов, представляющую ту часть выхода, которая может быть «учтена», или предсказана, по входам, и обусловленную шумом остаточную сумму квадратов, которую нельзя предсказать по входам. Таким образом, квадрат множественного коэффициента корреляции представляет собой ту долю дисперсии выхода, которую можно учесть, зная входы.
Из (11.3.7) и (11.3.8) мы видим, что множественный коэффициент корреляции можно оценить из уравнения
Г(в+»12 ... чС(</+1)(<7 + 1) = ^С(Ч+П- (1 1.3.10)
244
Глава И
Если подставить сюда h из уравнения (11.3.5), то получим другую форму выборочного множественного коэффициента корреляции
'(« + 1)12
.= 1
, I ^(? + 1 )07 + 1)1 c(q + l)(q + \)\Cqq\
(11.3.11)
где C(g+i)(g+i) — матрица ковариации всех q + 1 переменных (одного выхода и q входов), а Сдд — матрица ковариации одних входов. Равенство (11.3.11) можно записать также через соответствующие корреляционные матрицы
'(?+1)12 ... q
N4+1)07+1)1
IR
qq i
Пример. При q = 2 равенство (11.3.10) переходит в
'312? = Ч{ _
Пользуясь выражением (11.3.12), получаем
= A1C13 + A2C23.
(11.3.12)
(11.3.13)
' 312
Г!2 Г 3
t 21 1 ^23
1 гп
r2i 1
А + г?
23 '
" ^12^13?
(11.3.14)
Выборочная теория множественных коэффициентов корреляции.
Для применения выборочного подхода заменим в приведенных выше формулах все выборочные величины на соответствующие им случайные величины. Заметим, что эти случайные величины предполагаются гауссовскими, так же как и остаточные ошибки Zt в (11.3.1). Тогда равенство (11.3.9) представляет собой разложение на
%2q и %N_q_v Таким образом, если верна нулевая гипотеза, согласно которой все параметры hi в модели (11.3.1) равны нулю, то случайная величина, соответствующая выборочной величине
