Статистический анализ: Подход с использованием ЭВМ - Афифи А.
Скачать (прямая ссылка):
Р-ВКЛЮЧеНИЯ — Рухг-х.х, =0.17. ¦ -
Шаг 3. а) Имеется набор Ь = \Хг, Х3] с / =х2- Так как значения Р-удаления для Хг и Х3 больше минимального^так же как и Р-включения для .Ха, набор Ь расширяется. Итащ теперь Ь = = \Хи Х2, Х3\ с I = 3.
Ъ) Уравнением наименьших квадратов будет у = 8.29 + О.бОхх — 0.14^ + 0.52*8> а таблица дисперсионного анализа имеет вид
Источник Сумма Степени Средний Р-апво-
дисперсии квадратов свободы квадрат шение
Регрессия 89 963.8 3 29 987.9 152.1
Отклонение от регрес- 27 007.6 137 197.1
син
Полная 116 971.4 140
Множественный коэффициент корреляции Гу.Х1Х2Хз равен 0.8770, а значения Р-удаления суть РуХ1.ХаХ) = 19.2, Р^.*,*, = 0.17 и РуХ,.Х1хг = 1-7. Так как все они превышают минимум, и так как больше переменных для включения не Р1меется7выполняется
шаг Б. -|0 х)'^ иг 1>1(,л'',
2. Стандартная пошаговая процедура с заменой переменных (FSWAP). Эта процедура использует те же самые правила для включения и удаления переменных, что и описанная выше процедура, за исключением того что на каждом шаге имеется воз-
3.3. Пошаговая регрессия
201
можность замены переменной из набора на какую-нибудь не содержащуюся в нем переменную. Эта процедура позволяет найти некоторое компромиссное решение между наилучшим набором, описанным во введении (все пары, тройки и т. д.), и «наилучшим» набором, полученным с помощью стандартной процедуры.
При применении данной процедуры включенная в набор переменная может быть заменена не содержащейся в наборе переменной, если при этом возрастает множественный коэффициент корреляции (не обязательно статистически значимо). На любом заданном шаге, если в наборе с имеется & переменных, включенных в уравнение регрессии, эта процедура позволяет \) удалить некоторую переменную из с с помощью правила Р-удаления, и) заменить некоторую переменную из с на переменную, не входящую в с и Ш) добавить в набор с некоторую переменную, используя значения Р-включения.
3. Метод множественной корреляции (Я-метод). В этой про-цедуре'для включения переменных используется правило, основанное на величине Р-включения, но правило удаления переменных существенно видоизменяется. Удаление переменной на данном шаге производится с помощью правила #д т. е. если в результате удаления происходит увеличение (не обязательно значимое) множественного коэффициента корреляции #д Рост множественного коэффициента корреляции возможен, так как из выражения, приведенного в замечании 3.2.6.1, следует, что /?2 является функцией не только двух фиксированных величин (именно, п и Эу), но также и двух изменяющихся величин (я2 — остаточный средний квадрат и р — число используемых переменных) 15. Следовательно, вполне возможно, что совместное изменение этих двух величин при удалении переменной приведет к увеличению значения Итак, рассматриваемая процедура предполагает следующее: 1) удаление переменных на основе правила Р2 и И) добавление переменных с помощью правила Р-включения.
4. Метод множественной корреляции с заменой переменных (ЯБУРАР). Эта процедура аналогична Р-методу, за исключением того что дополнительно допускается замена переменных. Последовательность действий этой процедуры такова: 1) удаление переменной с использованием правила #а, п) замена переменных по критерию возрастания Р2 и Ш) добавление новой переменной с использованием правила Р-включения.
*) Речь идет, таким образом, о некотором варианте несмещенной оценки Множественного коэффициента корреляции. — Прим. перед.
202 Гл. 3. Регрессионный и корреляционный анализы
Замечание 3.3.1. В программах пошаговой регрессии боль-шинства ПСП имеется возможность обязательного включения перспективных переменных в уравнение регрессии. С этой целью пользователь _c_j^^bjo_j^TBe^ входного„параметра,
называемого уровнем^ принудительного включения, задает для каждой переменной либо инструкцию, следует "ли включить эту переменную независимо от величины ее F-включения, либо приоритет ее включения в уравнение регрессии относительно других переменных. Таким образом, пользователь имеет возможность управлять отбором переменных (в отличие от описанного ды-ше ста-тигтчшрг'ки пбпгнг^янчого отбора^ и первыми включать в уравнение регрессии те переменные, которые представляются наиболее перспективными. Пошаговая процедура применяется тогда только к тем переменным, которые остались «свободными» или для которых не задан уровень принудительного включения. Заметим, что при принудительном включении в уравнение регрессии всех независимых переменных пошаговая регрессия может быть осуществлена с помощью программы множественной регрессии.
3,3.2. Правила остановки
Ниже рассматриваются три правила для определения числа предикторов, отобранных в «наилучшее» уравнение регрессии. Стандартное правило, которое реализовано в большинстве программ пошаговой регрессии, осуществляет контроль числа переменных с помощью величины, называемой допустимый минимум F-включения, значение которой является входным параметром программы. Как указывалось выше, величине минимума F-включения соответствует величина максимума уровня значимости а, что в символьных обозначениях выглядит так: min F-включения = — ^ua (1. v) Для некоторого числа степеней свободы V. Обычно полагают v = п — р — 1, а рекомендуемое значение а составляет 0.15 (что будет обсуждаться ниже), хотя многие пользователи устанавливают а = 0.05.
