Понятие регрессионных уравнений

Регрессионные уравнения или регрессионные модели отражают зависимость между экономическими переменными, а именно, между одной зависимой, то есть эндогенной, и одной или более независимыми – экзогенными переменными.

Зависимая переменная – y.

Независимые переменные – x.

Направление причинной связи между переменными определяется через предварительное обоснование модели.

Регрессионные уравнения могут быть однофакторными и многофакторными. В первом случае одна переменная зависит от другой, во втором – одна переменная зависит от нескольких других. Исходя из изученных нами понятий теории вероятности и математической статистики, дадим определение регрессионного уравнения.

Регрессионное уравнение – это уравнение, отражающее зависимость между математическим ожиданием(условным распределением), одной переменной и соответствующими значениями другой переменной.

Таким образом, регрессионное уравнение в общем, виде можно представить как:

M (y / x) = f (x), где M (y / x) – условное математическое ожидание случайной переменной y при заданном значении x.

Частным случаем однофакторного регрессионного уравнения является линейная модель –   y_i=a+bx_i+ε_i, где:

y_i  – объясняемая (зависимая) переменная,

x_i   – объясняющая (независимая) переменная,

a – свободный член регрессии (некоторая постоянная), даже если x_i = 0, y_i имеет какое-либо больше или меньше 0 значение, равное а,

b – коэффициент регрессии отражает наклон линии, вдоль которой рассеяны данные наблюдения, также b –  показатель, характеризующий изменения у при изменении значения х на 1.

Если знак при b больше 0, то переменные проявляют прямую зависимость между собой, если b меньше 0, то соответственно, обратная зависимость.

ε_i  – ошибка или случайная компонента

Наличие ε_i обусловлено двумя причинами:

1. Любая регрессионная модель является упрощением действительности, на самом деле есть еще другие параметры, от которых зависит y_i;

2. Трудности в измерении данных или присутствуют ошибки измерения.

Нужно различать кросс секционную регрессию и регрессию временных рядов.

Кросс секционная регрессия проверяет связь между переменными в определенный момент времени. В качестве примера можно рассмотреть зависимость между количеством работников на предприятии и прибылью этого предприятия.

При анализе регрессии во временных рядах, данные по каждой переменной собираются в течение следующих друг за другом периодов времени.

Регрессионный анализ позволяет установить взаимосвязь между показателями в течение одного и того же периода времени. Независимо от того, проводится ли кросс секционный анализ или анализ временных рядов, основные понятия и положения регрессионного анализа остаются теми же.

РА (регрессионный анализ)

(кросс секционный анализ) КСА    АВР   (анализ                                                                                        

                                                           временных рядов)

Метод наименьших квадратов

Для статистической проверки взаимосвязи между х и у необходимо найти значения коэффициентов а и в, а также случайную компоненту ε_i (линейная модель – y_i=a+bx_i+ε_i). Метод оценки этих коэффициентов должен давать «хорошие» оценки. Чаще других для этого используют метод наименьших квадратов, который дает наилучшие несмещенные оценки. Он называется так, потому что при расчете параметров стараются найти линию минимизирующую сумму квадратов отклонений (значений ошибок, расхождения между фактическими и расчетными значениями у (зависимая переменная)). На графике нанесены наблюдения х _i, у _i  (любая точка). Комментируя график, можно сделать вывод:

1. Точки не лежат на одной прямой, можно лишь провести некоторую линию в непосредственной близости от всех точек

2. Можно сделать допущение, что х и у связаны линейной зависимостью.

 

 

         

у

              х х

      х х

   х х

х х

х х

     х х

х х

       х       

 

                      х                                                                                  

То есть, можно построить некоторую прямую   отражающую зависимость между х_i и у _i,

х_i и у _i – экономические (фактические) переменные,

ŷ - теоретические или расчетные значения зависимой переменной,

и  – оценочные значения коэффициентов а и в.

 Для того чтобы теоретическая прямая  лежала в непосредственной близости от всех точек, то есть от фактических значений у _i, необходимо минимизировать сумму квадратов отклонений между практическими и расчетными значениями.

Продифференцировав данное уравнение по и , получим систему уравнений:

Получаем

Раскрыв скобки, получаем стандартную форму нормальных уравнений:

 

Из этой системы находится оценочное значение коэффициентов а и в, т.е. и :

 

 

 

 

Случайная компонента ε_i  находится как разница между фактическим у _i и расчетным значениями : .