Лекции.ИНФО


Метод наименьших квадратов (МНК). Свойства оценок на основе МНК



Возможны разные виды уравнений множественной регрессии: линейные и нелинейные.

Ввиду четкой интерпретации параметров наиболее широко используется линейная функция. В линейной множественной регрессии параметры при называются коэффициентами «чистой» регрессии. Они характеризуют среднее изменение результата с изменением соответствующего фактора на единицу при неизмененном значении других факторов, закрепленных на среднем уровне.

Рассмотрим линейную модель множественной регрессии

. (2.1)

Классический подход к оцениванию параметров линейной модели множественной регрессии основан на методе наименьших квадратов (МНК). Чтобы получить по методу МНК наилучшие оценки должны выполнятся ряд предпосылок относительно случайного отклонения ei­­. Эти предпосылки называются предпосылками Гаусса-Маркова или условиями Гаусса-Маркова:

1. Математическое ожидание случайного отклонения в теоретическом уравнении регрессии равно 0 для любых наблюдений, т.е.

М(ei) = 0, "i

Данное условие означает, что случайное отклонение в среднем не оказывает влияния на зависимую переменную.

2. Дисперсия случайного отклонения постоянна, т.е.

D(ei) = D(e­­j) = s2 ,"i¹j

Из данного условия следует, что несмотря на то, что при каждом конкретном наблюдении случайное отклонение ei может быть различным, но не должно быть причин, вызывающих большую ошибку. Выполнимость данной предпосылки называют гомоскедастичностью. Если предпосылка не выполняется, то говорят, что в модели присутствует эффект гетероскедастичности – изменяющихся отклонений.

3. Наблюдаемые значения случайных отклонений ei и ej независимы друг от друга. Если данное условие выполняется, то говорят об отсутствии автокорреляции.

4. Случайное отклонение должно быть независимо от объясняющей переменной. Обычно это условие выполняется автоматически, т.к. в эконометрических моделях объясняющие переменные не являются случайными величинами.

5. Регрессионная модель является линейной относительно параметров. Из этого условия следует, что математическое ожидание коэффициентов уравнения регрессии дает несмещенные оценки для коэффициентов. Дисперсии этих оценок уменьшаются при увеличении объема используемой выборки.

6. Наряду с выполнимостью указанных предпосылок при построении линейных регрессионных моделей обычно делаются еще некоторые предположения, а именно:

- случайное отклонение имеет нормальный закон распределения;

- число наблюдений существенно больше числа объясняющих переменных;

- отсутствуют ошибки спецификации;

- отсутствует линейная взаимосвязь между двумя или несколькими объясняющими переменными.

МНК позволяет получить такие оценки параметров, при которых сумма квадратов отклонений фактических значений результативного признака от расчетных минимальна:

(2.2)

Как известно из курса математического анализа, для того чтобы найти экстремум функции нескольких переменных, надо вычислить частные производные первого порядка по каждому из параметров и приравнять их к нулю.

Итак. Имеем функцию аргумента:

(2.3)

Чтобы найти минимум функции (2.3), надо вычислить производные по каждому из параметров и приравнять их к нулю, т.к. равенство нулю производной – необходимое условие экстремума.

(2.4)

После элементарных преобразований приходим к системе линейных нормальных уравнений для нахождения параметров линейного уравнения множественной регрессии (2.1):

Так, для уравнения (2.1.) система нормальных уравнений имеет вид:

(2.5)

Решение системы (2.5) может быть осуществлено по одному из известных способов: Метод Гаусса, метод Крамера и т.д.

Пример. По 10-ти предприятиям региона (см. табл.) изучается зависимость выработки продукции на одного работника y (тыс. руб.) от ввода в действие новых основных фондов (% от стоимости фондов на конец года) и от удельного веса рабочих высокой квалификации в общей численности рабочих (%). Требуется составить уравнение множественной регрессии.

№ предпрития
, (%)
, (%)
, (тыс. руб.)

Решение:

Предположим, что зависимость выработки продукции на одного работника характеризуется следующим уравнением:

.

На основании исходных данных составляем систему уравнений для определения коэффициентов и .

; ; ; ; ;

; ; ; .

Решим эту систему по методу Крамера. Вычисляем определитель системы:

Аналогично вычисляем частные определители, заменяя соответствующий столбец столбцом свободных членов:

;

;

.

Коэффициенты уравнения определяются по формулам:

Таким образом, уравнение имеет вид:

.

Возможен и иной подход к определению параметров множественной регрессии, когда уравнение регрессии строится, используя МНК. Для начала необходимо определить значения следующих параметров:

, , , , , (2.6)

; ;

Для вычисления коэффициентов уравнения регрессии необходимо определить значения 6-ти сумм:

1. = =

2. = =

3. = =

4. = =

5. = =

6. = =

Подставим полученные значения 6-ти сумм в формулы для расчета коэффициентов уравнения регрессии (m=2):

или

= = -0,6346;

= =2,84;

= = 13,5946.

Таким образом, мы получили эмпирические значения параметров множественной линейной регрессии, которая имеет следующий вид:

= 13,5946-0,6347x1+2,84x2

Сравнивая полученное уравнение с полученным ранее, мы видим хорошее соответствие полученных разными способами результатов.

 









Читайте также:

  1. Анализ и оценка инвестиций в реальные активы на основе дисконтированного потока денежных средств. Чистая приведенная стоимость (NPV) проекта.
  2. АНАЛИЗ ПЛАТЕЖЕСПОСОБНОСТИ НА ОСНОВЕ АБСОЛЮТНЫХ ПОКАЗАТЕЛЕЙ ЛИКВИДНОСТИ
  3. Аппроксимация на основе специальных рядов
  4. Б. Гарантия неприкосновенности границы между Францией, Бельгией и Германией, достигнутая на Локарнской конференции 1925 г.
  5. В основе работы рычажных весов лежит «принцип рычага».
  6. Влияние на рынок труда системы оплаты труда на основе работ сравнимой ценности
  7. Вонючий заряд - зловонные боеприпасы изготавливают обычно на основе серы, хлора, сероводорода и аммиака. Определённый запах способен вызвать страх и даже ужас противника.
  8. Восстанавливающие средства на основе слизи улитки
  9. Вычисление безусловных вероятностей на основе наблюдений.
  10. Глава 3. Предпосылки метода наименьших квадратов
  11. Государственная аккредитация организаций по управлению правами на коллективной основе.
  12. Динамика оценок САН в течение рабочего дня у учителей с различным стажем работы


Последнее изменение этой страницы: 2016-06-05; Просмотров: 76;


lektsia.info 2017 год. Все права принадлежат их авторам! Главная