Альтернативный метод нахождения параметров уравнения парной регрессии

Традиционно параметры уравнения парной регрессии и оцениваются с помощью МНК, однако в случае парной регрессионной модели возможен и другой подход к оценке параметров регрессионной функции. Запишем уравнение парной регрессии в следующем виде:

.

Здесь y – значение зависимой переменной;

x – значение независимой переменной;

– случайная ошибка;

– среднее значение зависимой переменной, вычисленное на основе выборочных данных. Чаще всего это значение вычисляется по формуле среднего арифметического:

,

где y_i – значения зависимой переменной, ;

n – объем выборки;

– среднее значение независимой переменной, которое вычисляется аналогично среднему значению зависимой переменной;

– выборочный коэффициент регрессии y по x. Он характеризует на сколько в среднем изменится результативный показатель y при изменении факторного показателя x на единицу своего измерения.

Оценка выборочного коэффициента регрессии y по x вычисляется с помощью следующей формулы:

,

где – выборочный парный коэффициент корреляции, определяемый как

.

Выборочный парный коэффициент корреляции показывает тесноту связи между изучаемыми признаками. Он изменяется в пределах [–1; +1]. Если , то связь между признаками прямая. Если , то связь между признаками обратная. Если , то связь между признаками отсутствует. Если или , то связь между изучаемыми признаками является функциональной, т. е. характеризуется полным соответствием между x и y: . Примером функциональной зависимости могут служить математические и статистические формулы, например: S=a². При таком значении парного коэффициента корреляции регрессионный анализ между изучаемыми показателями не проводится. Данная связь не подлежит численной характеристике, так как на практике массовым социально-экономическим явлениям присущи иные виды связи (в частности, корреляционная связь).

– среднее арифметическое значение произведения результативного и факторного признаков;

S_y – выборочное среднеквадратическое отклонение зависимой переменной y. Этот показатель вычисляется по формуле:

,

где – среднее значение квадратов значений результативной переменной y:

,

- квадрат средних значений результативной переменной y:

,

S_x – выборочное среднеквадратическое отклонение независимой переменной x. Этот показатель вычисляется аналогично среднеквадратическому отклонению зависимого показателя y.

При оценивании коэффициента в модели регрессионной зависимости результативного показателя y от факторного показателя x с помощью рассмотренного метода следует помнить о том, что , но .

Классический метод наименьших квадратов (МНК) для модели парной регрессии

Рассмотрим применение МНК для нахождения оценок неизвестных параметров уравнения регрессии на примере модели линейной парной регрессии.

Пусть подобрана эмпирическая линия, по виду которой можно судить о том, что связь между независимой переменной x и зависимой переменной y линейная и описывается функцией:

(1)

Необходимо найти такие значения параметров и , которые бы доставляли минимум функции:

. (2)

– уравнение регрессионной модели.(3)

При минимизации функции (2) значения зависимой и независимой переменных известны из наблюдений.

Для того чтобы найти минимум функции двух переменных, нужно вычислить частные производные этой функции по каждому из неизвестных параметров и приравнять их к нулю.

В результате получаем систему уравнений:

Если разделить обе части каждого уравнения системы на (-2), раскрыть скобки и привести подобные члены, то получим систему:

Это система нормальных уравнений относительно коэффициентов и для зависимости .

Решением системы нормальных уравнений являются и – оценки неизвестных параметров и уравнения регрессии (3):

,

,

где – среднее значение зависимого признака;

– среднее значение независимого признака;

– среднее арифметическое значение произведения зависимого и независимого признаков;

– дисперсия независимого признака;

Соv(x,y) – ковариация между зависимым и независимым признаком.