Головна

Метод найменших квадратів в матричної формі

  1.  C4. Уміння працювати зі статистичними даними, представленими в табличній формі
  2.  Exercise 6. Завершіть пропозиції, вставивши необхідні за змістом слова у відповідній формі (одне слово використовується двічі). Переведіть пропозиції на російську мову.
  3.  I метод
  4.  I. ЗАГАЛЬНІ Методичні вказівки
  5.  I. Методичний інструментарій оцінки рівня ліквідності інвестицій забезпечує здійснення такої оцінки в абсолютних і відносних показниках.
  6.  I. Організаційно-методичний розділ
  7.  I. Статистичні методи побудови динамічних об'єктів технологічних процесів.

Для оцінки параметрів лінійного рівняння множинної регресії застосовується метод найменших квадратів. Скалярний варіант цього методу дозволяє отримувати оцінки параметрів  путемрешенія системи нормальних рівнянь

(3.5)

яка виходить шляхом диференціювання суми квадратів відхилень

 . (3.6)

Сучасний підхід до викладу регресійного аналізу заснований на матричної алгебри. Тому нижче буде розглянуто матричний варіант МНК.

Щоб зрозуміти перехід від скалярного уявлення регресійній моделі до матричних, запишемо регресійні рівняння для кожного  -го (  ) Спостереження у вигляді такої системи:

 (3.7)

Для зручності будемо вважати, що коефіцієнт  регресійного рівняння в системі (4.7) помножений на спеціально введену штучну змінну  . З урахуванням введеної змінної ця система може бути записана наступним чином:

 . (3.8)

ввівши позначення

; ; ; ,

перепишемо (4.8) в компактній матричної формі

 . (3.9)

Сума квадратів відхилень МНК для (4.9) записується в такий спосіб:

 . (3.10)

Виконавши множення в (3.10)

і продифференцировав по вектору  результат перемноження

,

отримуємо систему рівнянь в матричної формі

 , (3.11)

рішення якої дозволяє записати вираз для оцінки вектора параметрів регресійного рівняння наступним чином:

 . (3.12)

Якщо виконуються гіпотези, що лежать в основі моделі множинної регресії:

1)  - Специфікація моделі;

2)  -детермінірованная матриця, що має максимальний ранг ;

3a)  ; 3b) ,

то оцінки (3.12) мають ряд корисних властивостей, опис яких наводиться нижче.

Перш за все, покажемо, що математичне очікування оцінок МНК одно  . Для цього представимо оцінку в наступному вигляді:

 . (3.13)

Наведене уявлення спільно з гіпотезою 3а) дозволяє записати

 . (3.14)

Дана властивість прийнято назвати незміщеної оцінок МНК. Незміщеність - важлива властивість, але його недостатньо для повного опису якісних характеристик обчислюються за МНК оцінок.

Другий якісною характеристикою є стандартна помилка. Для її отримання обчислимо ковариационную матрицю оцінки  , Тобто математичне сподівання добутку відхилень оцінки вектора параметрів від свого математичного очікування

 . (3.15)

Так як з (4.13) слід  , То, зробивши заміну, отримуємо

 . (3.16)

дисперсія  , Що фігурує в (4.16), зазвичай невідома і тому її величина оцінюється за вибірковими спостереженнями, тобто приймається рівною

 , (3.17)

де - Вектор залишків, обчислення яких, на відміну від випадкових складових  , Стає можливим після побудови регресійного рівняння, так як  . Таким чином, ковариационная матриця векторної оцінки має вигляд

 . (3.18)

Квадратні корені з елементів головної діагоналі матриці (3.18) прийнято називати стандартними помилками коефіцієнтів регресії. Ці помилки позначають  . По теоремі Гаусса - Маркова оцінки МНК мають найменші стандартні помилки в класі лінійних (по  ) Незміщене оцінок.

За допомогою стандартних помилок визначається рівень надійності обчислених оцінок коефіцієнтів регресії: перевіряються гіпотези щодо значущості оцінок коефіцієнтів регресії, будуються довірчі інтервали. Іншими словами, з їх допомогою встановлюється надійність побудованої моделі.

Іноді побудова рівняння множинної регресії починається з побудови регресії в стандартизованому масштабі

 , (3.19)

де ,  - Стандартизовані змінні;

 - Стандартизовані коефіцієнти регресії, які прийнято називати бета-коефіцієнтами. Вони виходять як рішення системи нормальних рівнянь в стандартизованном масштабі

 (3.20)

Коефіцієнтами системи (20) є парні коефіцієнти кореляції. Цікава змістовна інтерпретація  - Коефіцієнтів. На відміну від коефіцієнтів регресії  , Які залежать від масштабу вимірювань залежною і незалежних змінних, ці коефіцієнти вільні від такої залежності і тому можуть використовуватися для ранжирування факторів за ступенем їх впливу на модельований показник. Зв'язок коефіцієнтів множинної регресії  зі стандартизованими коефіцієнтами  визначається співвідношенням

 , (3.21)

що дозволяє здійснити перехід від стандартизованого рівняння до звичайного, вільний член якого обчислюється через середнє значення за формулою

 . (3.22)

У разі необхідності (наприклад, для ранжирування факторів за ступенем впливу на модельований показник) можна, не вдаючись до побудови стандартизованого рівняння, визначити  - Коефіцієнти за коефіцієнтами регресії

 . (3.23)

Крім того,  - Коефіцієнти можуть використовуватися для розрахунку множинного коефіцієнта кореляції

 , (3.24)

показує тісноту лінійного зв'язку незалежних змінних, включених в модель, з залежною змінною.

У загальному випадку тіснота спільного впливу чинників на модельований показник оцінюється індексом кореляції

 , (3.25)

значення якого для лінійної моделі збігається з множинним коефіцієнтом кореляції.

Якість побудованої моделі в цілому зручно оцінювати за допомогою коефіцієнта множинної детермінації, Що визначається як квадрат індексу множинної кореляції, помноженого на 100

 (3.26)

і показує на скільки відсотків зміна залежної змінної пояснюється відповідними змінами незалежних змінних.

Для цих же цілей, коли особлива увага звертається на статистичну значущість, використовується скоригований коефіцієнт множинної детермінації, Що розраховується через скоригований на число ступенів свободи множинний індекс кореляції за формулою

 . (3.27)

Значимість рівняння множинної регресії в цілому оцінюється за допомогою дисперсійного відносини Фішера (Fкритерію)

 . (3.28)

У чисельнику критерію (3.28) стоїть сума квадратів відхилень, обумовлена ??регресією ( «пояснена» або «факторна»), поділена на число ступенів свободи , А в знаменнику - залишкова сума квадратів відхилень, поділена на (  ) (Залишкова дисперсія).

якщо  , То побудована модель вважається адекватною.  - Це максимально можливе значення дисперсійного відносини Фішера при даних ступенях свободи і довірчому рівні  (див. додаток).

Приватний F-критерій дозволяє оцінити статистичну значущість кожного з факторів, включеного в модель. для фактора  значення приватного Fкритерію визначається за формулою

 . (3.29)

Статистична значимість кожного коефіцієнта регресії оцінюється також за допомогою t-критерію Стьюдента

 , (3.30)

де  - Середня квадратична помилка коефіцієнта регресії, яка визначається за формулою

 . (3.31)

Коефіцієнти регресії лінійного рівняння інтерпретується як коефіцієнти абсолютного зростання. З їх допомогою можна розрахувати середні коефіцієнти еластичності, які визначаються за формулою

 . (3.32)



 Загальний вигляд моделі множинної регресії |  Парна регресія як окремий випадок множинної

 ПРОГНОЗУВАННЯ |  Сутність економічного прогнозування |  типологія прогнозів |  етапи прогнозування |  сутність екстраполяції |  Типи росту і трендові моделі |  Метод найменших квадратів (МНК) |  Вирішуючи лінійну систему (2.26) за допомогою заміни |  Критерії точності прогнозних розрахунків |  Регресійний аналіз ПРОГНОЗ |

© um.co.ua - учбові матеріали та реферати