Шпаргалкапо "Эконометрике"

 В  зависимости от количества включенных  в модель факторов Х модели  делятся на однофакторные (парная модель регрессии) и многофакторные (модель множественной регрессии).

В зависимости  от вида  функции  модели делятся на линейные и нелинейные.

Модель  множественной линейной регрессии имеет вид:

y _i =   a₀ + a₁x _{i 1} +a₂x _{i 2}  +…+  a_k x _{i k} + e_i                                                                   (2.1) 

  - количество наблюдений.                                                        

коэффициент регрессии a_j показывает, на какую величину в среднем изменится результативный признак , если переменную x_j увеличить на единицу измерения, т. е. a_j является нормативным коэффициентом.

     Коэффициент может быть отрицательным. Это означает, что область существования показателя не включает нулевых значений параметров. Если же а₀>0, то область существования показателя включает нулевые значения параметров, а сам коэффициент характеризует среднее значение показателя при отсутствии воздействий параметров.

Анализ уравнения (2.1)  и методика определения параметров становятся более наглядными, а расчетные процедуры существенно упрощаются, если воспользоваться матричной формой записи:

                                                                                                                (2.2)   .                                                                             

  Где  У – вектор зависимой переменной размерности п ´ 1, представляющий собой п наблюдений значений . 

Х- матрица п наблюдений независимых переменных , размерность матрицы Х равна п ´ (k+1) .  Дополнительный факторХ0, состоящий из единиц, вводится для вычисления  свободного члена. В качестве исходных данных могут быть временные ряды или пространственная выборка.

      К  - количество факторов, включенных в модель.

        a — подлежащий оцениванию вектор неизвестных параметров размерности (k+1) ´ 1;

        — вектор случайных отклонений (возмущений) размерности п ´ 1. отражает тот факт, что изменение будет неточно описываться изменением объясняющих переменных  , так как существуют и другие факторы, неучтенные в данной модели.

Таким образом,

Y = ,      

X = , ,

  a = .

 

Уравнение (2.2) содержит значения неизвестных  параметров a₀,a₁,a₂,… ,a_k

Эти величины оцениваются на основе выборочных наблюдений, поэтому полученные расчетные показатели не являются истинными, а представляют собой лишь их статистические оценки. Модель линейной регрессии, в которой вместо истинных значений параметров подставлены их оценки (а именно такие регрессии и применяются на практике), имеет вид

                                        ,                                        (2.3)

где A — вектор оценок параметров;  е — вектор «оцененных» отклонений регрессии, остатки регрессии  е = Y - ХА; —оценка значений Y, равная ХА. 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 

24. Оценка параметров  множественной регрессии  методом наименьших  квадратов (МНК). Свойства  оценок МНК.

Построение  уравнения регрессии осуществляется, как правило МНК, суть которого состоит в минимизации суммы квадратов отклонений фактических значений результатного признака от его расчетных значений, т.е.:

                                    .

Формулу для вычисления параметров регрессионного уравнения по методу наименьших квадратов приведем без вывода 

                                                                           (2.4).

Для того чтобы регрессионный анализ, основанный на обычном методе наименьших квадратов, давал наилучшие из всех возможных результаты, должны выполняться следующие условия, известные  как условия Гаусса – Маркова.

Первое условие.  Математическое ожидание случайной составляющей в любом наблюдении должно быть равно нулю. Иногда случайная составляющая будет положительной, иногда отрицательной, но она не должна иметь систематического смещения ни в одном из двух возможных направлений.

                                                                                                

Фактически  если уравнение регрессии включает постоянный член, то обычно это условие выполняется автоматически, так как роль константы состоит в определении любой систематической тенденции У, которую не учитывают объясняющие переменные, включенные в уравнение регрессии.

Второе условие означает,  что дисперсия случайной составляющей должна быть постоянна для всех наблюдений. Иногда случайная составляющая будет больше, иногда меньше, однако не должно быть априорной причины для того, чтобы она порождала  большую ошибку в одних наблюдениях, чем в других.

      Эта постоянная дисперсия обычно обозначается , или часто в более краткой форме , а условие записывается следующим образом:

.

Выполнимость  данного условия называется  гомоскедастичностью (постоянством дисперсии отклонений). Невыполнимость данной предпосылки называется гетероскедастичностью, (непостоянством дисперсии отклонений).

Третье условие предполагает отсутствие систематической связи между значениями случайной составляющей в любых двух наблюдениях. Например, если случайная составляющая велика и положительна в одном наблюдении, это не должно обусловливать систематическую тенденцию к тому, что она будет большой и положительной в следующем наблюдении. Случайные составляющие должны быть  независимы друг от друга.

В силу того, что  , данное условие можно записать следующим образом:

                                                          Возмущения не коррелированны (условие независимости случайных составляющих в различных наблюдениях).

Это условие  означает, что отклонения регрессии (а значит, и сама зависимая переменная) не коррелируют. Условие некоррелируемости ограничительно, например, в случае временного ряда . Тогда третье условие означает отсутствие автокорреляции ряда .

  Четвертое условие состоит в том, что в модели (2.1) возмущение (или зависимая переменная ) есть величина случайная, а объясняющая переменная - величина неслучайная.

Если это условие выполнено, то теоретическая ковариация между независимой переменной и случайным членом равна нулю.

  Наряду с условиями Гаусса— Маркова обычно также предполагается нормальность распределения случайного члена.

В тех  случаях, когда выполняются предпосылки, оценки, полученные по МНК, будут обладать свойствами несмещенности, состоятельности и эффективности.  
 
 

23. Понятие и причины автокорреляции остатков. Последствия автокорреляции остатков. Обнаружение автокорреляции остатков.

Оценка  отсутствия автокорреляции остатков(т.е. значения остатков e_i распределены независимо друг от друга). Автокорреляция остатковозначает наличие корреляции между остатками текущих и предыдущих (последующих)наблюдений. Коэффициент корреляции между e_i  и e_j 

, где  e_i — остатки текущих наблюдений,

 e_j-остатки предыдущих наблюдений, может быть определ  по обычной формуле лин.коэффиц. корреляции. Если этот коэффициент окажется существенно отличным от нуля, то остатки

автокоррелированы и функция плотности вероятности F(e) зависит j-й

точки наблюдения и от распределения значений остатков в других точках

наблюдения. Для регрессионных моделей по статической информации автокорреляция

остатков  может быть подсчитана, если наблюдения упорядочены по фактору х. Отсутствие автокорреляции остаточных величин обеспечивает состоятельность и эффективность оценок коэффициентов регрессии. Особенно актуально соблюдение данной предпосылки МНК при построении регрессионных моделей по рядам динамики, где ввиду наличия тенденции последующие уровни динамического ряда, как

правило, зависят от своих предыдущих уровней.

Для проверки свойства независимости (отсутствие автокорреляции) уровней  в ряде остатков используют d-критерий Дарбина-Уотсона. В начале рассчитывают величину d по формуле: . Для этого критерия задаются 2 таблич. границы d₁ и d₂.  
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 

19. Проверка качества многофакторных регрессионных моделей. Оценка качества всего ур-ния регрессии.

Качество  модели регрессии связывают с адекватностью модели наблюдаемым (эмпирическим) данным. Проверка адекватности (или соответствия) модели регрессии наблюдаемым данным проводится на основе анализа остатков - .

Анализ остатков позволяет получить представление, насколько хорошо подобрана сама модель и насколько правильно выбран метод оценки коэффициентов. Согласно общим предположениям регрессионного анализа, остатки должны вести себя как независимые (в действительности, почти независимые) одинаково распределенные случайные величины.

Качество  модели регрессии оценивается по следующим направлениям:

1. проверка качества всего уравнения регрессии;
2. проверка значимости всего уравнения регрессии;
3. проверка статистической  значимости коэффициентов уравнения регрессии;
4. проверка выполнения предпосылок МНК.

 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 

28. Проверка качества многофакторных регрессионных моделей.Коэф-т детерминации R2. Скорректированный R2. Проверка гипотез с пом т-статистик и ф-статистик.

При анализе  качества модели регрессии, в первую очередь, используется коэффициент  детерминации, который определяется следующим образом:

                            ,                                     (2.5)

где  - среднее значение зависимой переменной,