НОУ ИНТУИТ | Введение в эконометрику. Лекция 3: Множественная регрессия

Учитесь и получайте официальные документы БЕСПЛАТНО. Вы можете поддержать наш проект.

Регистрация Вход

Твой путь к знаниям!

Опубликован: 10.09.2016 | Уровень: для всех | Доступ: платный

|

Вам нравится? Нравится 28 студентам

| Поделиться |

Поддержать программу

3.3. Оценки математического ожидания и ковариаций МНК-коэффициентов модели

Докажем несмещенность МНК-оценок, используя матричное представление (3.8). Запишем уравнение (3.1) в виде

$y = X \beta + \varepsilon .$

(3.9)

Отсюда

$My = M(X\beta + \varepsilon ) = M(X\beta ) + M(\varepsilon ) = M(X\beta ) = X\beta .$

(3.10)

Наконец,

$M\beta = M((X^{T}X)^{-1}X^{T}y) = (X^{T}X)^{-1}X^{T}My = (X^{T}X)-^{1}X^{T}X\beta = \beta ,$

что и требовалось.

Рассмотрим матрицу ковариаций оценок коэффициентов модели:

Для $cov(b_{i}, b_{j})$ получаем равенство:

$cov(b_{i}, b_{j}) = M{(b_{i} - M(b_{i}))(b_{j} - M(b_{j}))} = M{(b_{i} - \beta _{i})(b_{j} - \beta _{j})}.$

Аналогично имеем $\sigma ^{2}(bi) = M{(b_{i} - b_{i})^{2}}$ . Отсюда

В матричной форме последнее равенство имеет следующий вид:

$V(b) = M[(b - \beta )(b - \beta )^{T}].$

(3.11)

Из выражения (3.8) следует, что

$b - b = b - M(b) = (X^{T}X)^{-1}X^{T}y - M[(X^{T}X)^{-1}X^{T}y] = \\ = (X^{T}X)^{-1}X^{T}y - (X^{T}X)^{-1}X^{T}My =\\ = (X^{T}X)^{-1}X^{T}(y - M(y)) = (X^{T}X)^{-1}X^{T}\varepsilon .$

(3.12)

Следовательно,

$(b - \beta )^{T} = \varepsilon ^{T}X(X^{T}X)^{-1}.$

(3.12)

Отметим, что в формуле (3.13) использовано свойство симметричной матрицы ( $X^{T}X)^{-1}$ не изменяться при транспонировании. Перемножая равенства (3.12) и (3.13), получаем

$(b - \beta )(b - \beta )^{T} = (X^{T}X)^{-1}X^{T}\varepsilon \cdot \varepsilon ^{T}X(X^{T}X)^{-1}.$

Но из свойств налагаемых на вектор случайных ошибок $\varepsilon$ вытекает, что

$M[(b - \beta )(b - \beta )^{T}] = (X^{T}X)^{-1}X^{T}M(\varepsilon \cdot \varepsilon ^{T})X(X^{T}X)^{-1} =\\ = (X^{T}X)^{-1}X^{T}\sigma ^{2}IX(X^{T}X)^{-1} = \sigma ^{2}(X^{T}X)^{-1}X^{T} X(X^{T}X)^{-1}I =\\ = \sigma ^{2}(X^{T}X)^{-1}= \sigma 2C.$

(3.12)

Элементы матрицы обозначим $с_{ij}$ . Тогда $\sigma ^{2}(b_{i}) = с_{ii}\sigma ^{2}$ , а $cov(b_{i}, b_{j}) = с_{ij}\sigma ^{2}$ . Переходя к выборочным оценкам $\sigma ^{2},$ получаем