Эконометрические зависимости: принципы и методы построения - Клейнер Г.Б.
ISBN 5-02-008348-8
Скачать (прямая ссылка):
Рассмотрим в этой связи задачу оценки неизвестной зависимости Y =f(X) по результатам Т наблюдений в точках (Xj <Х2< ... <ХТ). Предполагается, что значения Xt измеряются точно, а вместо истинных значений Yt =/(Х,) наблюдаются значения ?/, = У, + отличающиеся от истинных аддитивными независимыми случайными ошибками имеющими нормальное распределение с нулевым средним и неизвестной дисперсией S. Естественно, что такой информации явно недостаточно для получения разумных решений - необходимы дополнительные сведения о характере оцениваемой зависимости. Исследуем два варианта такой дополнительной информации.
Пример 4.6. Пусть известно, что искомая функция f(X) - неубывающая. Этого, разумеется, недостаточно для того, чтобы установить характер изменения функции между точками Xt или за пределами отрезка [Xj,XT], Попробуем, однако, оценить значения неизвестной функции f(X) в точках Xt. Функция правдоподобия в данном случае
равна П ^=ехр{-[^-ЛХг)]2/25} = П ^=ехр(Ч^ - Yt]2/25},
поэтому ее максимизация эквивалентна решению задачи:
? (Г, -?/,)2 =>min, Y]^Y2^...^YT. (4.7)
t
Решив эту задачу выпуклого программирования известными численными методами, можно оценить искомую функцию и в "промежуточных" точках. Действительно, ее значения между точками Xt_j и Xt лежат, очевидно, в пределах от Yt_j до Yt. Поэтому разумной оценкой для/(Х) будет, например, ломаная, соединяющая точки (Х„ У,). Выше подразумевалось, что все точки Xt - различные. Однако решение принципиально не изменится, если считать, что некоторые наблюдения про-
80
изведены при одинаковых значениях объясняющей переменной - в этой ситуации в качестве неизвестных можно принять только значения К„ отвечающие разным Хп либо добавить дополнительные ограничения Y, = Yt_i для тех /, для которых Х{ = Xt_hm
Пример 4.7. Пусть известно, что искомая функция ДХ) - выпуклая. Рассуждая аналогично, мы приходим к другой задаче выпуклого программирования:
I (r,-(/,)2=>min, J^*...«J^I=Z-. (4.8)
Тот же метод может быть применен и при оценке функций Y =f{X) нескольких переменных, хотя формализация модели здесь гораздо более сложная. При этом, как и в одномерном случае, удается оценить функцию только в ограниченной области, являющейся выпуклой оболочкой наблюдаемых точек Х{М
Пример 4.8. Требуется оценить плотность распределения/(X) случайной величины по Т наблюденным ее значениям Х(. Как и в предыдущих случаях, одной этой информации (и даже дополнительной информации о том, что эта плотность "колоколообразна"), недостаточно. Однако для типичных распределений такого вида функция g(X) = -\nf{X) выпуклая (мы допускаем и такие выпуклые функции, которые принимают значение +°о). Оказывается, что эта информация уже позволяет получить разумные оценки. Действительно, логарифм функции правдоподобия наблюденных значений {X,}, взятый с обратным знаком,
равен сумме ? #(Х,), поэтому задача сводится к нахождению такой t
выпуклой функции g(X), для которой
?(X,)=>min (4.9)
t=\
при естественном ограничении на плотность вероятностного распределения:
J e"8(X)dX = l. (4.10)
—оо
Решение этой задачи оказывается сравнительно простым. Пусть Н - минимальное значение L(g), h(X) - произвольная выпуклая функция,
оо
J(h)= \ e~hmdX. Легко видеть, что функция h(X) + InJ(h) удов-
—оо
летворяет (4.10), так что для нее левая часть (4.9) будет не меньше Н. Отсюда следует, что величина Н является минимальным значением т
функционала R(h)= ? h(Xt) + T\n t=i
J e'hWdX
на множестве всех вы-
81
пуклых функций. Поэтому оптимальная функция h(X) заведомо должна обращаться в +©о при X <Xj или при X > Хт (соответственно в этих
точках будет g(X) = 0). Обозначим Zt -h{Xt)\ Ut
очевидно, Uj^U2
и-
T-h
t-j
Тогда,
(4.11) (4.12)
Рассмотрим ломаную 1г*(Х), соединяющую последовательные точки (*„Z,):
h\x) = z, + Yt{x - xf) при xt<x<xt+1. (4.13)
Поскольку h(X) выпукла, то h\X) ^ h*(X) и, значит, R(h) ^ R(h*), что возможно только, если h(X) = 1г*(Х). Проведя несложные вычисления, получим, что тогда
R(h)= ? Z,+7Чп
T-l ^ 1 p-ut(xt+l~xt)
/=0 ut
T-l
= I (T-t)Ut(Xt+1-Xt) + T\n
I -в -
(4.14)
Минимизация (4.14) при ограничениях (4.11) является задачей выпуклого программирования и легко решается с помощью известных компьютерных программ. Легко видеть, что всем ломаным h(X) с оптимальными Ut будет отвечать одно и то же значение R(h). Однако отрицательным логарифмом плотности распределения из них будет только одна - для нее должно выполняться равенство (4.10). Отсюда можно найти последнее неизвестное Z/:
Zj = In
t-i
т-i i -X (*,¦+/-*/>
^ 1 c /=i
(4.15)
Теперь оптимальная g(X) определяется из (4.13). Приведем численные примеры.
Получены 12 реализаций случайной величины, равномерно распределенной на (0,1):
0,012; 0,036; 0,229; 0,252; 0,325; 0,489; 0,491; 0,534; 0,555; 0,771; 0,943; 0,994.
82
0,8 4-1-i-1-1
О 0,2 0,4 0,6 0,8 I
Рис. 1. Оценка плотности равномерного распределения
0 0,2 0,4 0,6 0,8 1
Рис. 2. Оценка плотности треугольного распределения
На рис. 1 приведена оцененная указанным способом плотность распределения.
