Метод наименьших квадратов (МНК) для модели парной регрессии

Метод наименьших квадратов (МНК) для модели парной регрессии

МНК – один из базовых методов регрессионного анализа для оценки неизвестных параметров регрессионных моделей по выборочным данным.

Метод основан на минимизации суммы квадратов остатков регрессии.

МНК можно назвать метод решения задачи в любой области, если решение заключается или удовлетворяет некоторому критерию минимизации суммы квадратов некоторых функций от искомых переменных. Поэтому МНК может применяться также для приближенного представления (аппроксимации) заданной функции другими (более простыми) функциями, при нахождении совокупности величин, удовлетв-х уравнениям или ограничениям, колич-во которых превышает колич-во этих величин и т.д.

МНК говорит, что сумма отклонений д.б. минимизирована.

В случае парной линейной регрессионной модели коэффициент детерминации равен квадрату корреляции.

 

3. Классификация эконометрических моделей

1. По целевому назначению

а) теоретико-аналитические модели

б) прикладные модели

2. По исследуемым экономич-м процессам и содержательной проблематике

а) модели народны хозяйств в целом

б)комплексы моделей производства и потребления

в) комплексы моделей формирования и распределения доходов

г) комплексы моделей формирования трудовых ресурсов

д) комплексы моделей ценообразования

е) комплексы моделей финансовых связей

3. На дескриптивные и нормативные модели

4. По характеру отражения причинно-следственных связей

5. По способу отражения факторов времени

 

Оценка точности и качества прогнозов

 

5. Этапы эконометрического моделирования

1. Аналитический

2. Дополнительные показатели моделирования

3. Предварительный выбор тенденции (тренда)

4. Показатели вариации

a. Средний уровень ряда

b. Дисперсия (сигма квадрат) – отношение суммы квадрата отклонения каждого элемента ряда к среднему уровню ряда к количеству этих элементов

c. Среднее квадратическое отклонение (сигма - корень из дисперсии)

d. Коэффициент вариации (V) – отношение среднего квадратического отклонения к среднему уровню ряда

Вариация = волотильность (вариация самого ряда (1ый и посл.эл-т) – во сколько раз изменился показатель, внутрирядовая вариация)

5. Проверка распределения результативного признака на близость к известным распределениям (шаблонам) – в работе – способ Вестергарда

6. Расчет показателей корреляции (теснота связи)

Корреляция — это статистическая взаимосвязь двух или нескольких случайных величин (либо величин, которые можно с некоторой допустимой степенью точности считать таковыми). При этом, изменения одной или нескольких из этих величин приводят к систематическому изменению другой или других величин. Математической мерой Корреляции двух случайных величин служит коэффициент Корреляции. Отношение между двумя или более рядами ценностей. Чем теснее связаны между собой две (или больше) серии, тем выше степень Корреляции.

Парная линейная корреляция [-1,1] – отношение разности среднего к произведению ср.квадратического отклонения.

Если коэф.парной корреляции от 0,9 до 1 – теснота связи высокая, если от 0 до 0,1 – то слабая, если отрицательная – связь обратная (-0,1 – слабая, -0,9 – сильная).

Связь – линейная, либо нелинейная (2 порядка, 3 порядка, log)

7. Стандартные ошибки коэффициентов регрессионной модели (h или эпсилон)

a. Квадратическая ошибка коэффициента корреляции (h)

Достоверность коэффициентов ≤5%

8. Проверка существенности коэффициента модели регрессии с помощью критерия Стьюдента

Если расчетное значение критерия Стьюдента меньше табличного, то испытуемый показатель несущественен, им можно пренебречь.

Если расчетное значение больше табл. значения, то показатель существенен, им пренебречь нельзя.

9. Определение параметров регрессии

a. Метод наименьших квадратов (сумма квадратов отклонений должна быть минимальной)

10. Проверка модели на достоверность

a. Коэффициент совокупной детерминации (R² [0,1]дисперсия факторных признаков делить на дисперсию результативного признака)

Если коэффициент детерминации меньше 0,9 (0,95), недостоверность построенной модели.

Если от 0,9 до 1 – исследования достоверны.

Недостоверной модель может быть по след. причинам:

А) в экономике все модели многофакторные – недостаточно факторных переменных включено в модель, либо включены не те.

Б) неправильно выбрана форма связи (6 этап) – может быть нелинейная связь (2 порядка, 3 порядка, log).

11. Прогнозирование

В статистике прогнозирование – экстраполяция (перспективы на будущее или ретроспективы в прошлое)

Прогнозы бывают точечные (конкретная цифра) и интервальные (от – до)

11.1. Экстраполяция (вне, снаружи) — особый тип аппроксимации, при котором функция аппроксимируется вне заданного интервала, а не между заданными значениями.

Экстраполировать можно через цепной индекс (Кт) – отношение изменения смежных элементов

11.2.

Интерполя́ция

(внутри) — в вычислительной математике способ нахождения промежуточных значений величины по имеющемуся дискретному набору известных значений.

11.3. Прогноз по тренду (теоретической линии регрессии)

6. Доверительные интервалы прогнозов

Для оценки статистической значимости коэффициентов регрессии и корреляции рассчитывается t-критерий Стьюдента и доверительные интервалы каждого из показателей. Доверительная или интервальная оценка позволяет по данным выборки указать интервал, в кот. с высокой вероятностью следует писать истинное, но не известное значение параметра распределения генеральной совокупности. Такие интервалы называются доверительными.

Если в границы доверительного интервала попадает 0, т.е. нижняя граница отрицательна, а верхняя положительна, то оцениваемый параметр принимается нулевым, т.к. он не может одновременно принимать и положительные и отрицательные значения.

7. Классификация эконометрических переменных и типов данных. Проблемы, связанные сданными

В эконометрических моделях в основном используются данные трёх типов:

1) пространственные данные (cross-sectional data);

2) временные ряды (time-series data);

3) панельные данные (panel data).

Пространственными данными называется совокупность экономической информации, которая характеризует различные объекты, однако полученной за один и тот же период или момент времени.

Временными данными называется совокупность экономической информации, которая характеризует один и тот же объект, но за разные периоды времени.

Панельными данными называются данные, содержащие сведения об одном и том же множестве объектов за ряд последовательных периодов времени.

экономической информации, которая характеризует изучаемый процесс или объект.

Регрессионый анализ

Регрессионный анализ — статистический метод исследования зависимости между зависимой переменной и одной или несколькими независимыми переменными .

К задачам регрессионного анализа относятся:

• установление формы зависимости между переменными;

• оценка модельной функции (модельного уравнения) регрессии;
• оценка неизвестных значений (прогноз значений) зависимой переменной.

Показатели вариации

Вариация — это различия индивидуальных значений признака у единиц изучаемой совокупности. Исследование вариации имеет большое практическое значение и является необходимым звеном в экономическом анализе. Изменение вариации признака в совокупности осуществляется с помощью абсолютных и относительных показателей.

Абсолютные показатели вариации включают:

• размах вариации - это разность между максимальным и минимальным значениями признака
• среднее линейное отклонение -это средняя арифметическая из абсолютных отклонений отдельных значений признака от средней.
• дисперсию -представляет собой средний квадрат отклонений индивидуальных значений признака от их средней величины.
• среднее квадратическое отклонение - равно квадратному корню из среднего квадрата отклонений отдельных значений признака от средней арифметической.

Вариация бывает 2-х видов:

1. Вариация самого ряда (смотрим 1 элемент ряда и последний)

2. Внутрирядовая вариация

12. Критерий Дарбина-Уотсона

Помимо автокорреляционной и частной автокорреляционной функций для обнаружения автокорреляции остатков модели регрессии используется критерий Дарбина-Уотсона.

Наблюдаемое значение критерия Дарбина-Уотсона (вычисленное на основе выборочных данных) сравнивают с критическим значением критерия Дарбина-Уотсона, которое определяется по специальным таблицам.

Критическое значение критерия Дарбина-Уотсона определяется в зависимости от значений верхней d1 и нижней d2 границ критерия по специальным таблицам. Данные границы определяются в зависимости от объёма выборочной совокупности n и числа степеней свободы (h-1), где h – количество оцениваемых по выборке параметров.

Если коэффициент автокорреляции является положительной величиной, то при проверке гипотез возможно возникновение следующих ситуаций.

Если наблюдаемое значение критерия Дарбина-Уотсона меньше критического значения его нижней границы, т. е. dнабл‹d1, то основная гипотеза об отсутствии автокорреляции первого порядка между остатками модели регрессии отклоняется.

Если наблюдаемое значение критерия Дарбина-Уотсона больше критического значения его верхней границы, т. е. dнабл>d2, то основная гипотеза об отсутствии автокорреляции первого порядка между остатками модели регрессии принимается.

Если наблюдаемое значение критерия Дарбина-Уотсона находится между верхней и нижней критическими границами, т. е. d1< dнабл< d2, то достаточных оснований для принятия единственно правильного решения нет, необходимы дополнительные исследования.

Если коэффициент автокорреляции является отрицательной величиной, то при проверке гипотез возможно возникновение следующих ситуаций.

Если наблюдаемое значение критерия Дарбина-Уотсона больше критической величины 4 – d1, т.е. dнабл>4 – d 1, то основная гипотеза об отсутствии автокорреляции первого порядка между остатками модели регрессии отклоняется

Если наблюдаемое значение критерия Дарбина-Уотсона меньше критической величины 4 – d2, т. е. dнабл‹4 – d2, то основная гипотеза об отсутствии автокорреляции первого порядка между остатками модели регрессии принимается.

Если наблюдаемое значение критерия Дарбина-Уотсона находится в критическом интервале между величинами 4 – d1 и 4– d2, т.е. 4 – d1< dнабл<4 – d2,, то достаточных оснований для принятия единственно правильного решения нет, необходимы дополнительные исследования.

Устранение автокорреляции

Автокорреляция- это взаимосвязь 2-х сменных элементов ряда. Это когда предыдущий элемент оказывает взаимодействие на последующий.

Д/того, чтобы выявляя причины наследственной связи в любых рядах, видеть чистую корреляцию, необходимо выявить автокорреляцию и ее устранить.

Способы устранения:

1 Расчет критерия Дарбина Уотсона. Необходима рассчитать критерий Д. Уотсона и сравнить его с табличным. Все значения находятся от 0 до 4. Если расчетное значение критерия больше табличного, то автокорреляция отсутствует, если меньше, то ряд содержит автокорреляцию.

2 Устранить автокорреляцию можно используя метод первы разностей. Существует корреляция с учетом лака. Это означает в эк-ке, что различные процессы м.б. разнесены во времени. Вывод: Выявлять причины наследств. связи с помощью корреляции и регрессии+аналитика+эконометрика позв-т строить модели, кот. проверяются на достоверность и используя это мы можем получать прозноз и заниматься планированием.

Коэффициенты эластичности

Коэффициенты эластичности наряду с индексами корреляции и детерминации для нелинейных форм связи применяются для характеристики зависимости между результативной переменной и факторными переменными. С помощью коэффициентов эластичности можно оценить степень зависимости между переменными х и у.

Коэффициент эластичности показывает, на сколько процентов изменится величина результативной переменной у, если величина факторной переменной изменится на 1 %. Коэффициенты эластичности могут быть рассчитаны как средние и точечные коэффициенты.

Описание метода

Для подсчета ранговой корреляции Спирмена необходимо располагать двумя рядами значений, которые могут быть проранжированы. Такими рядами значений могут быть:

1) два признака, измеренные в одной и той же группе испытуемых;

2) две индивидуальные иерархии признаков, выявленные у двух испытуемых по одному и тому же набору признаков (3) две групповые иерархии признаков;

4) индивидуальная и групповая иерархии признаков.

Вначале показатели ранжируются отдельно по каждому из признаков. Как правило, меньшему значению признака начисляется меньший ранг.

Парный регрессионный анализ

Анализ регрессионный парный - вид анализа регрессионного,включающего рассмотрение одной независимой переменной. Уравнение парной регрессии при линейной зависимости имеет следующий вид:
y=a+bx,где
y - оцениваемая или прогнозируемая зависимая переменная (результативный признак);
a - свободный член уравнения;
b - коэффициент регрессии, измеряющий среднее отношение отклонения результативного признака от его средней величины к отклонению факторного признака от его средней величины на единицу его измерения: вариация Y, приходящаяся на единицу вариации x;
x - независимая переменная (факторный признак), используемая для определения зависимой переменной.
[1]

Производственные функции

Производственной функцией называется экономико-математическая модель, с помощью которой можно охарактеризовать зависимость результатов производственной деятельности предприятия, отрасли или национальной экономики в целом от повлиявших на эти результаты факторов.

Факторами производственной функции могут являться следующие переменные:

1) объём выпущенной продукции (в стоимостном или натуральном выражении);

2) объём основного капитала или основных фондов;

3) объём трудовых ресурсов или трудовых затрат (измеряемое количеством рабочих или количеством человеко-дней);

4) затраты электроэнергии;

5) количество станков, потребляемое в производстве и др.

Однофакторные производственные функции (т. е. функции с одной факторной переменной) относятся к наиболее простым производственным функциям. В данном случае результативной переменной является объём производства у, который зависит от единственной факторной переменной х. В качестве факторной переменной может выступать любая из вышеназванных переменных.

Основными разновидностями однофакторных производственных функций являются:

1) линейная однофакторная производственная функция

2) параболическая однофакторная производственная функция

3) степенная однофакторная производственная функция

4) показательная однофакторная производственная функция

5) гиперболическая однофакторная производственная функция вида:

Двухфакторные производственные функции (функции с двумя факторными переменными) характеризуют зависимость объёма производства от каких-либо двух факторов, чаще от факторов объёма основного капитала и трудовых ресурсов. Чаще всего используются такие двухфакторные производственные функции как функции Кобба-Дугласа и Солоу.

Изоквантой называется сочетание минимально необходимых ресурсных затрат для заданного уровня объёма производства.

Многофакторные производственные функции используются для изучения зависимости объёма производства от n -го количества факторов производства.

Аналитический вид тренда

Метод аналитического выравнивания с помощью функций времени или кривых роста является основным методом представления тренда в аналитическом виде, используемым в эконометрике. Суть данного метода заключается в аппроксимации временного ряда определённой формой регрессионной кривой. При этом наиболее проблематичным является вопрос о выборе функции тренда.

Выбор выравнивающей кривой может осуществляться на основании заранее заданных критериев, к которым относятся:

1) множественный коэффициент детерминации;

2) сумма квадратов отклонений наблюдаемых значений временного ряда от теоретических значений (рассчитанных с помощью функции тренда).

Методом конечных разностей называется метод, позволяющий подобрать подходящую форму кривой. Его применение возможно в том случае, если временной ряд содержит равностоящие друг от друга уровни.

Конечной разностью первого порядка (разностным оператором первого порядка) называется разность между соседними уровнями временного ряда.

Разностным оператором второго порядка (конечной разностью второго порядка) называется разность между соседними разностными операторами первого порядка

В общем случае разностным оператором i-го порядка называется разность между соседними разностными операторами (i-1)-го порядка:

Оценки неизвестных коэффициентов уравнения тренда рассчитываются с помощью классического метода наименьших квадратов.

Если тренд временного ряда можно аппроксимировать линейной функцией, то её коэффициенты можно рассчитать с помощью метода моментов. При этом в модель вводится новая переменная времени T, началом координат которой является середина временного ряда. Таким образом, её сумма по всем элементам равняется нулю.

30. Метод экстраполяции. См. вопрос №5 п.11

Множественная регрессия

Множественная регрессия широко используется в решении проблем спроса, доходности акций; при изучении функции издержек производства, в макроэкономических расчетах и целого ряда других вопросов эконометрики. В настоящее время множественная регрессия – один из наиболее распространенных методов эконометрики. Основная цель множественной регрессии — построить модель с большим числом факторов, определив при этом влияние каждого из них в отдельности, а также совокупное их воздействие на моделируемый показатель.

Построение уравнения множественной регрессия начинается с решения вопроса о спецификации модели. Спецификация модели включает в себя два круга вопросов: отбор фак­торов и выбор вида уравнения регрессии.

Требования к факторам.

1 Они должны быть количественно измеримы.

2.Факторы не должны быть интеркоррелированы и тем более находиться в точной функциональной связи.

Разновидностью интеркоррелированности факторов является мультиколлинеарность - наличие высокой линейной связи между всеми или несколькими факторами.

33. Метод интерполяции. См. вопрос №5 п.11

Коэффициент контингенции

Коэффициент контингенции (contingent coefficient) оценка степени тесноты связи между качественными признаками, каждый из которых также как и для коэффициента ассоциации должен быть представлен в виде альтернативного признака. Однако коэффициент контингенции по абсолютной величине меньше коэффициента ассоциации.

Компоненты временного ряда

Временным рядом называется ряд наблюдаемых значений изучаемого показателя, расположенных в хронологическом порядке или в порядке возрастания времени.

Отдельно взятый временной ряд можно представить как выборочную совокупность из бесконечного ряда значений показателей во времени.

Уровнями временного ряда называются наблюдения из которых состоит данный ряд.

Временной ряд называется моментным рядом, если уровень временного ряда фиксирует значение изучаемого показателя на определённый момент времени.

Временной ряд называется интервальным рядом, если уровень временного ряда характеризует значение показателя за определённый период времени.

Временной ряд называется производным рядом, если уровни ряда представлены в виде производных величин (средних или относительных показателей).

Исследование данных, представленных в виде временных рядов, преследует две основные цели:

1) характеристика структуры временного ряда;

2) прогнозирование будущих уровней временного ряда на основании прошлых и настоящих уровней.

Достижение поставленных целей возможно с помощью идентификации модели временного ряда.

Идентификацией модели временного ряда называется процесс выявления основных компонент, которые содержит изучаемый временной ряд.

Временные ряды могут содержать два вида компонент – систематическую и случайную составляющие.

Систематическая составляющая временного ряда является результатом воздействия постоянно действующих факторов.

Выделяют три основных систематических компоненты временного ряда:

1) тренд;

2) сезонность;

3) цикличность.

Трендом называется систематическая линейная или нелинейная компонента, изменяющаяся во времени.

Сезонностью называются периодические колебания уровней временного ряда внутри года.

Цикличностью называются периодические колебания, выходящие за рамки одного года. Промежуток времени между двумя соседними вершинами или впадинами в масштабах года определяют как длину цикла.

Метод наименьших квадратов (МНК) для модели парной регрессии

МНК – один из базовых методов регрессионного анализа для оценки неизвестных параметров регрессионных моделей по выборочным данным.

Метод основан на минимизации суммы квадратов остатков регрессии.

МНК можно назвать метод решения задачи в любой области, если решение заключается или удовлетворяет некоторому критерию минимизации суммы квадратов некоторых функций от искомых переменных. Поэтому МНК может применяться также для приближенного представления (аппроксимации) заданной функции другими (более простыми) функциями, при нахождении совокупности величин, удовлетв-х уравнениям или ограничениям, колич-во которых превышает колич-во этих величин и т.д.

МНК говорит, что сумма отклонений д.б. минимизирована.

В случае парной линейной регрессионной модели коэффициент детерминации равен квадрату корреляции.

 

3. Классификация эконометрических моделей

1. По целевому назначению

а) теоретико-аналитические модели

б) прикладные модели

2. По исследуемым экономич-м процессам и содержательной проблематике

а) модели народны хозяйств в целом

б)комплексы моделей производства и потребления

в) комплексы моделей формирования и распределения доходов

г) комплексы моделей формирования трудовых ресурсов

д) комплексы моделей ценообразования

е) комплексы моделей финансовых связей

3. На дескриптивные и нормативные модели

4. По характеру отражения причинно-следственных связей

5. По способу отражения факторов времени