Головна |
Оцінка дисперсії помилок s2 . розподіл S2
Введемо деякі позначення:
- Вектор прогнозних значень
; (52)
- Вектор залишків регресії
(53)
Безпосередньо з визначення неважко перевірити, що матриці M, N - ідемпотентна, тобто симетричні, і є проекторами:
N2 = N, N '= N; (54)
M2 = M, M '= M. (55)
Відповідно до геометричної інтерпретацією регресії з (52) і (53) випливає, що матриця N є матрицею оператора ортогонального проектування на подпространсто p, породжене векторами Xi , А M - матрицею оператора ортогонального проектування на p - ортогональное доповнення до подпространству p в Rn. Тому
NX = X, MX '= 0. (56)
Обчислимо математичне сподівання і матрицю ковариаций вектора залишків:
E (e) = E (MY) = ME (Y) = MXb = [I-X (X'X)-1X '] Xb = Xb-Xb = 0; (57)
V (e) = V (MY) = MV (Y) M '= Ms2IM '= sM. (58)
Сума квадратів залишків є природним кандидатом на оцінку дисперсії помилок s2 (Звичайно, з деякими поправочних коефіцієнтів, що залежать від числа ступенів свободи):
E (e'e) = tr (V (e)) = s2 tr (M) = s2 tr (In - N) = (n-k) s2. (59)
Для обчислення рівняння (59) ми використовували формули (57) і (58) і співвідношення
tr (N) = tr (X (X'X)-1X ') = tr (X'X (X'X)-1) = Tr (Ik) = K. (60)
При виведенні останнього рівності застосовано властивість сліду матриці
tr (AB) = tr (BA).
З формули (59) випливає, що
(61)
тобто
. (62)
Ранг Ідемпотентний матриці дорівнює її сліду rank (M) = rank (1-N) = tr (1-N) = n-k.
тоді розподіл
(63)
24. Незалежність оцінок і S2
У припущенні нормального лінійної множинної регресійної моделі вдається довести незалежність оцінок і S2.
Справді, з виразу (46) отримуємо
. (64)
З рівнянь (64) і (62) видно, що випадкові вектори і e мають спільне багатовимірне нормальний розподіл. Тому для того, щоб довести їх незалежність, досить показати їх некоррелірованні:
AM = (X'X)-1 X '(I - X (X'X)-1X ') = (X'X)-1X '- (X'X)-1X '(X'X)-1X '= 0,
тому (так як Ee = 0)
,
що й потрібно було довести.
Так як S2 є функцією від e (див. формулу (61)), то оцінки також незалежні.
Економетрія та її місце в ряду математико-статистичних та економетричних дисциплін | Економетрична модель і проблеми економетричного моделювання | Основні етапи і проблеми економетричного моделювання | Модель парної регресії | Метод найменших квадратів (МНК) | Рівняння в відхиленнях | геометрична інтерпретація | Матрична форма запису | Лінійна регресійна модель з двома змінними | Основні гіпотези |