Опубликован: 10.09.2016 | Доступ: свободный | Студентов: 946 / 165 | Длительность: 15:27:00
Тема: Экономика
Лекция 3:

Множественная регрессия

3.3. Оценки математического ожидания и ковариаций МНК-коэффициентов модели

Докажем несмещенность МНК-оценок, используя матричное представление (3.8). Запишем уравнение (3.1) в виде

y = X \beta + \varepsilon . (3.9)

Отсюда

My = M(X\beta + \varepsilon ) = M(X\beta ) + M(\varepsilon ) = M(X\beta ) = X\beta . (3.10)

Наконец,

M\beta = M((X^{T}X)^{-1}X^{T}y) = (X^{T}X)^{-1}X^{T}My = (X^{T}X)-^{1}X^{T}X\beta = \beta ,

что и требовалось.

Рассмотрим матрицу ковариаций оценок bi коэффициентов модели:


Для cov(b_{i}, b_{j}) получаем равенство:

cov(b_{i}, b_{j}) = M{(b_{i} - M(b_{i}))(b_{j} - M(b_{j}))} = M{(b_{i} - \beta _{i})(b_{j} - \beta _{j})}.

Аналогично имеем \sigma ^{2}(bi) = M{(b_{i} - b_{i})^{2}}. Отсюда


В матричной форме последнее равенство имеет следующий вид:

V(b) = M[(b - \beta )(b - \beta )^{T}]. (3.11)

Из выражения (3.8) следует, что

b - b = b - M(b) = (X^{T}X)^{-1}X^{T}y - M[(X^{T}X)^{-1}X^{T}y] = \\
					= (X^{T}X)^{-1}X^{T}y - (X^{T}X)^{-1}X^{T}My =\\
				= (X^{T}X)^{-1}X^{T}(y - M(y)) = (X^{T}X)^{-1}X^{T}\varepsilon . (3.12)

Следовательно,

(b - \beta )^{T} = \varepsilon ^{T}X(X^{T}X)^{-1}. (3.12)

Отметим, что в формуле (3.13) использовано свойство симметричной матрицы (X^{T}X)^{-1} не изменяться при транспонировании. Перемножая равенства (3.12) и (3.13), получаем

(b - \beta )(b - \beta )^{T} = (X^{T}X)^{-1}X^{T}\varepsilon \cdot \varepsilon ^{T}X(X^{T}X)^{-1}.

Но из свойств налагаемых на вектор случайных ошибок \varepsilon вытекает, что

M[(b - \beta )(b - \beta )^{T}] = (X^{T}X)^{-1}X^{T}M(\varepsilon \cdot \varepsilon ^{T})X(X^{T}X)^{-1} =\\
					= (X^{T}X)^{-1}X^{T}\sigma ^{2}IX(X^{T}X)^{-1} = \sigma ^{2}(X^{T}X)^{-1}X^{T} X(X^{T}X)^{-1}I =\\
				= \sigma ^{2}(X^{T}X)^{-1}= \sigma 2C. (3.12)

Элементы матрицы C обозначим с_{ij}. Тогда \sigma ^{2}(b_{i}) = с_{ii}\sigma ^{2}, а cov(b_{i}, b_{j}) = с_{ij}\sigma ^{2}. Переходя к выборочным оценкам \sigma ^{2}, получаем

S^{2}(b_{i}) - c_{ij}S^{2}_{ост}, cov(b_{i},b_{j}) - c_{ij}S^{2}_{ост}. (3.15)

Заметим без доказательства, что оценки b_{i}, полученные по МНК, оказываются эффективными и состоятельными.

Инесса Воробьева
Инесса Воробьева

В дисциплине "Основы эконометрики" тест 6 дается по теме 7.