Рассматривая последовательность остатков как временной ряд, можно построить график их зависимости от времени. В соответствии с предпосылками МНК остатки должны быть случайными. Однако при моделировании временных рядов нередко встречается ситуация, когда остатки содержат тенденцию или циклические колебания. Это свидетельствует о том, что каждое следующее значение остатков зависит от предшествующих. В этом случае говорят об автокорреляции остатков.
Автокорреляция в остатках может быть вызвана несколькими причинами, имеющими различную природу.
- 1. Она может быть связана с исходными данными и вызвана наличием ошибок измерения в значениях результативного признака.
- 2. В ряде случаев автокорреляция может быть следствием неправильной спецификации модели. Модель может не включать фактор, который оказывает существенное воздействие на результат и влияние которого отражается в остатках, вследствие чего последние могут оказаться автокоррелированными.
Существуют два наиболее распространенных метода определения автокорреляции остатков:
- 1) построение графика зависимости остатков от времени и визуальное определение наличия или отсутствия автокорреляции.
- 2) использование критерия Дарбина -- Уотсона и расчет величины:
Таким образом, d есть отношение суммы квадратов разностей последовательных значений остатков к остаточной сумме квадратов по модели регрессии.
Алгоритм выявления автокорреляции остатков на основе критерия Дарбина -- Уотсона следующий. Выдвигается гипотеза Н0 об отсутствии автокорреляции остатков. Альтернативные гипотезы Н1 и Н1* состоят, соответственно, в наличии положительной или отрицательной автокорреляции в остатках.
Далее по специальным таблицам определяются критические значения критерия Дарбина -- Уотсона dL и dU для заданного числа наблюдений n, числа независимых переменных модели k и уровня значимости б . По этим значениям числовой промежуток разбивают на пять отрезков. Принятие или отклонение каждой из гипотез с вероятностью осуществляется следующим образом:
есть положительная автокорреляция. Принимается гипотеза H1 с вероятностью (1- б ).
зона неопределенности.
автокорреляция остатков нет.
зона неопределенности.
есть отрицательная автокорреляция. Принимается гипотеза H1* с вероятностью (1-б).
Если фактическое значение критерия Дарбина -- Уотсона попадает в зону неопределенности, то на практике предполагают существование автокорреляции остатков и отклоняют гипотезу Hо.
Есть несколько существенных ограничений на применение критерия Дарбина -- Уотсона:
- 1. Он неприменим к моделям, включающим в качестве независимых переменных лаговые значения результативного признака, т.е. к моделям авторегрессии.
- 2. Методика расчета и использования критерия Дарбина-Уотсона направлена только на выявление автокорреляции остатков первого порядка.
- 3. Критерий Дарбина-Уотсона дает достоверные результаты только для больших выборок.
Автокорреляция – это корреляционная зависимость между текущими значениями некоторой переменной и значениями этой же переменной, сдвинутыми на несколько периодов времени назад. Автокорреляция случайной составляющей e модели – это корреляционная зависимость текущих и предыдущих значений случайной составляющей модели. Величина l называется запаздыванием , сдвигом во времени или лагом .
Автокорреляция случайных возмущений модели нарушает одну из предпосылок регрессионного анализа: условие
не выполняется.
Автокорреляция может быть вызвана несколькими причинами, имеющими различную природу. Во-первых, иногда она связана с исходными данными и вызвана наличием ошибок измерения в значениях результирующей переменной. Во-вторых, в ряде случаев причину автокорреляции следует искать в формулировке модели. Модель может не включать фактор, оказывающий существенное воздействие на результат, влияние которого отражается на возмущениях, вследствие чего последние могут оказаться автокоррелированными. Очень часто этим фактором является фактор времени t : автокорреляция обычно встречается при анализе временных рядов.
Постоянная направленность воздействия не включенных в модель переменных является наиболее частой причиной так называемой положительной автокорреляции .
Иллюстрацией положительной автокорреляции может служить следующий пример.
Пример 5.2. Пусть исследуется спрос Y на прохладительные напитки в зависимости от дохода X по ежемесячным и сезонным наблюдениям. Зависимость, отражающая увеличение спроса с ростом дохода, может быть представлена линейной функцией регрессии y = ax + b , изображенной вместе с результатами наблюдений на рис. 5.2.
Рис. 5.2. Положительная автокорреляция
На величину спроса Y оказывают влияние не только доход X (учтенный фактор), но и другие факторы, которые не учтены в модели. Одним из таких факторов является время года.
Положительная автокорреляция означает постоянное в одном направлении действие неучтенных факторов на результирующую переменную. Так спрос на прохладительные напитки всегда выше линии регрессии летом (т.е. для летних наблюдений e > 0) и ниже зимой (т.е. для зимних наблюдений e < 0) (рис. 5.2). g
Аналогичная картина может иметь место в макроэкономическом анализе с учетом циклов деловой активности.
Отрицательная автокорреляция означает разнонаправленное действие неучтенных в модели факторов на результат: за положительными значениями случайной составляющей e в одних наблюдениях следуют, как правило, отрицательные в следующих, и наоборот. Графически это выражается в том, что результаты наблюдений y i «слишком часто» «перескакивают» через график уравнения регрессии. Возможная схема рассеяния наблюдений в этом случае представлена на рис. 5.3.
Рис. 5.3. Отрицательная автокорреляция
Последствия автокорреляции в определенной степени сходны с последствиями гетероскедастичности. Среди них при применении МНК обычно выделяют следующие.
1. МНК-оценки параметров, оставаясь несмещенными и линейными, перестают быть эффективными. Следовательно, они перестают обладать свойствами наилучших линейных несмещенных оценок.
2. Стандартные ошибки коэффициентов регрессии будут рассчитываться со смещением. Часто они являются заниженными, что влечет за собой увеличение t
-статистик. Это может привести к признанию статистически значимыми объясняющих переменных, которые в действительности таковыми не являются. Смещенность возникает вследствие того, что выборочная остаточная дисперсия 
(m
– число объясняющих переменных модели), которая используется при вычислении указанных величин (см. формулы (2.18) и (2.19)), является смещенной. Во многих случаях она занижает истинное значение дисперсии возмущений s
2 .
Вследствие вышесказанного все выводы, получаемые на основе соответствующих t - и F - статистик, а также интервальные оценки будут ненадежными. Следовательно, статистические выводы, получаемые при проверке качества оценок (параметров модели и самой модели в целом), могут быть ошибочными и приводить к неверным заключениям по построенной модели.
Автокорреляция в остатках обычно встречается при регрессионном анализе временных рядов, и почти не встречается при анализе пространственных выборок. Чаще встречается положительная автокорреляция. Она в большинстве случаев вызывается направленным постоянным воздействием некоторых неучтенных в модели факторов. При положительной автокорреляции остатки изменяются монотонно с течением времени наблюдения, а при отрицательной - следует частое изменение знака остатка.
Среди основных причин автокорреляции можно выделить следующие:
а) ошибки спецификации - неучет в модели какой-то важной объясняющей переменной или неверный выбор вида функции, что ведет к систематическим отклонениям точек наблюдения от линии регрессии,
б) инерция - запаздывание реакции экономической системы на изменение факторов,
в) сглаживание данных.
Последствия автокорреляции в остатках такие же, как и в случае гетероскедастичности (потеря эффективности, смещение дисперсий оценок параметров, занижение стандартных ошибок и завышение t -статистик параметров), а это может повлечь признание незначимых факторов значимыми. Вследствие перечисленных обстоятельств, прогнозные качества модели ухудшаются.
При анализе временных рядов вместо индекса i часто будем использовать время t , а вместо числа наблюдений n будем писать - продолжительность интервала наблюдения временного ряда.
Мы будем рассматривать автокорреляцию первого порядка, так как в большинстве практических случаев автокорреляционная функция быстро убывает.
Коэффициент автокорреляции 1-го порядка в остатках:
Если этот коэффициент корреляции существенно отличен от 0, то можно говорить о наличии автокорреляции.
Обнаружение автокорреляции в остатках
1. Графический метод - при использовании этого метода строится график: ε t есть функция от ε t - 1 . Если в графике прослеживается отчетливая положительная или отрицательная тенденция, то, скорее всего, имеет место соответствующая автокорреляция в остатках.
2. Метод рядов
В моменты времени 
определяются знаки отклонений, например:
- для 20-ти наблюдений.
Рядом называют непрерывную последовательность одинаковых знаков (ряд ограничен скобками, в примере приведено 5 рядов). Количество знаков называют длиной ряда. Если рядов мало по сравнению с числом наблюдений, то вполне вероятна положительная автокорреляция, если рядов много, - то отрицательная.
Для более детального анализа используется следующая процедура:
Пусть - число знаков «+»,
Число знаков «-»,
Количество рядов.
При достаточном количестве наблюдений и при отсутствии автокорреляции в остатках случайная величина имеет асимптотически нормальное распределение со следующими параметрами:
Тогда, если k лежит внутри интервала
то гипотеза об отсутствии автокорреляции не отклоняется; если лежит левее данного интервала, то есть положительная автокорреляция, а если правее - то отрицательная автокорреляция. Здесь γ - уровень значимости гипотезы об отсутствии автокорреляции. Для небольших и существует таблица Сведа-Эйзенхарта, в которой по значениям и находятся и .
Если k 1 < k < k 2 , то автокорреляция отсутствует, если k < k 1 - есть положительная автокорреляция, если k > k 2 - есть отрицательная автокорреляция.
учитывая, что и 
, получим:
Процедура обнаружения автокорреляции по критерию DW такова:
1. Вычисляется критерий DW , для чего должна быть выполнена регрессия y на x и определены остатки. Затем выдвигается гипотеза об отсутствии автокорреляции в остатках.
2. По таблице критических значений теста Дарбина-Уотсона для назначенного уровня значимости γ
, числа наблюдений n
и числа факторов p
определяются верхняя du
и нижняя dl
критические точки 
3. Строятся области: I-от 0 до dl ; II-от dl до du; III-от du до 4-du ; IV- от 4-ul до 4-dl и V-от 4-dl до 4.
Это поясняется табл. 9.1.
таблица 9.1
При использовании критерия следует учитывать следующие ограничения:
а) он применим лишь для модели с ненулевым свободным членом,
в) временной ряд должен иметь одинаковую периодичность, то есть не должно быть пропусков наблюдений,
Поясним это:
где - коэффициент авторегрессии, - количество наблюдений, - дисперсия коэффициента c
1 в уравнении авторегрессии y t = a + bx t + c
1 y
t -
1 +…+ ε t
, c
1 - коэффициент при в упомянутом уравнении.
Как использовать h- статистику?
Для назначенного уровня значимости γ выдвигают гипотезу об отсутствии автокорреляции в остатках, т.е. полагают, что в модели AR(1) остатков и статистика h имеет стандартное нормальное распределение: .
По таблице функции Лапласа 
определяют критическую точку такую, что 
. Если , то отклоняется. В противном случае не отклоняется и автокорреляция не признается.
Методы устранения автокорреляции
1. Обобщенный МНК (ОМНК)
Рассмотрим исходную модель в моменты времени t
и t
-1: 
Есть случайная величина, так как и - случайные величины,
Так как и .
Остаток не коррелирует ни с одним регрессором, следовательно, можно применить классический МНК. Оценка параметра b вычисляется непосредственно, а оценка параметра a вычисляется так: .
ОМНК может применяться для данных, начиная с момента , т.е. первое наблюдение теряется; его можно восстановить для и , используя поправку Прайса-Уинстена:
Если наше предположение о том, что остатки описанные - моделью первого порядка соответствуют действительности, то можно показать, что .
Автокорреляция остатков может возникать по нескольким причинам:
Во-первых, иногда автокорреляция связана с исходными данными и наличием ошибок измерения в значениях Y.
Во-вторых, иногда причину автокорреляции остатков следует искать в формулировке модели. В модель может быть не включен фактор, оказывающий существенное воздействие на результат, но влияние у которого отражается в остатках, вследствие чего последние могут оказаться автокоррелированными. Зачастую этим фактором является фактор времени t.
Иногда, в качестве существенных факторов могут выступать лаговые значения переменных , включенных в модель. Либо в модели не учтено несколько второстепенных факторов, совместное влияние которых на результат существенно ввиду совпадения тенденций их изменения или циклических колебаний.
Автокорреляция бывает явной и неявной.
Явная наблюдается в случае, когда известна точная зависимость между уровнями шоковой переменной, полученными в различные моменты времени.
Неявная – когда такая зависимость является стохастической:
Зависимость такого вида достаточно часто встречается при анализе временных рядов и носит название модели авторегрессии первого порядка AP (1).
К последствиям наличия в модели автокорреляции относятся:
а) увеличение дисперсий оценок параметров модели;
б) смещение оценок, полученных по МНК;
в) снижение значимости оценок параметров.
Если ρ >0, то автокорреляция будет положительной, а если ρ < 0 – отрицательной.
Наиболее популярным критерием диагностики эконометрической модели на наличие автокорреляции является тест Дарбина-Уотсона.
Кроме точечной проверки наличия автокорреляции шоковой переменной на практике проверяют статистические гипотезы следующих видов:
Критерии проверки гипотез 1) и 2) основаны на специальных таблицах Дарбина-Уотсона, в которых по уровню надежности содержаться доверительные границы статистики .
Однако, существуют особые ограничения при использовании теста Дарбина-Уотсона.
1) Модель должна содержать свободный член ;
2) Модель не должна содержать лаговых переменных.
В других учебниках существует деление автокорреляции на чистую и ложную .
Чистая вызывается зависимостью случайного члена от прошлых значений. Она, в свою очередь, делится на автокорреляцию первого порядка, второго порядка и высших порядков.
Ложная автокорреляция вызывается неправильной спецификацией модели.
Причинами чистой автокорреляции могут быть:
1. Инерция. Трансформация и изменение многих экономических показателей обладает инерционностью.
2. Эффект паутины. Многие экономические показатели реагируют на изменение экономических условий с временным лагом (запаздыванием).
3. Сглаживание данных. Усреднение данных по некоторому продолжительному интервалу времени.
Последствия автокорреляции:
1. Истинная автокорреляция не приводит к смещению оценок регрессии, но оценки перестают быть эффективными.
2. Автокорреляция (особенно положительная) часто приводит к уменьшению стандартных ошибок коэффициентов, что влечет за собой увеличение t -статистик.
3. Оценка дисперсии остатков S e 2 является смещенной оценкой истинного значения σ e 2 , во многих случаях занижая его.
4. В силу вышесказанного выводы по оценке качества коэффициентов и модели в целом, возможно, будут неверными. Это приводит к ухудшению прогнозных качеств модели.
3 Проверка автокорреляции остатков
При наличии автокорреляции в остатках et оценки коэффициентов регрессии модели, полученные МНК, не будут иметь оптимальные статистические свойства (стандартная ошибка уравнения регрессии и построенные на ее основе доверительные интервалы ненадежны). Автокорреляция в остатках свидетельствует о неудачном подборе модели, о ее несовершенстве. Классические методы математической статистики лишь тогда применимы, когда отдельные члены статистического ряда независимы (некоррелированы). Но и при предпосылке нормального распределения и отсутствия автокорреляции в генеральной совокупности, из которой временной ряд взят, нельзя, к сожалению, разработать точной проверки автокорреляции при малых выборках. Ниже рассмотрены три приема проверки автокорреляции.
1. Один из возможных путей приближенной оценки автокорреляции основывается на использовании первого эмпирического нециклического коэффициента автокорреляции . К сожалению, распределение этого коэффициента для выборок из нормально распределенной, не автокоррелированной генеральной совокупности неизвестно. Поэтому мы пользуемся введенным Р.Л. Андерсоном циклическим коэффициентом автокорреляции, который определяется следующим образом:
(4.14)
Циклическим коэффициентом автокорреляции для сдвига является коэффициент автокорреляции между рядами и . При этом мы предполагаем, что временной ряд повторяется, т.е. что за последним членом xn
снова следуют члены x1,x2,...
Для циклический коэффициент автокорреляции первого порядка будет коэффициентом корреляции между рядами 
и x2
,x3
,...,xn
, x1
. Для больших выборок циклический коэффициент автокорреляции и нециклический коэффициент автокорреляции практически совпадают, для малых выборок их равенство приблизительно. Расчетное значение сравнивается при данной численности наблюдений n
с граничными значениями (табл. П.5 Приложения). При положительной автокорреляции оно признается существенным для , если выполняется неравенство > , в противном случае, если , она отсутствует. При отрицательной автокорреляции оно признается существенным, если < , а несущественной - при . Изложенный выше метод может быть использован и для проверки автокорреляции остатков . В последнем случае автокорреляционная функция принимает более простой вид:
(4.15)
2. Для проверки значимости автокорреляции чаще всего используют критерий Дарбина-Уотсона (иногда его обозначают DW). Построенный на основе гипотезы о существовании автокорреляции первого порядка: 
(4.16)
Где n
- длина временного ряда. Величина d
имеет симметрическое распределение со средней, равный 2. При отсутствии автокорреляции значение , при полной положительной - d=0
, при полной отрицательной - d=4
.
Расчетное значение d
сравнивают с граничными его значениями dL
и dU
, при этом возможны следующие случаи:
Таблица 4.3
Значение d |
Суждение |
0 £ d < dL |
имеется положительная автокорреляция |
|
неопределенность |
Значения dL и dU табулированы (табл. П.7 Приложения) для значений n в интервале 7-100. В этой таблице v означает число независимых переменных в уравнении регрессии. Для функции вида xt =x (t) , v=1 .
3. Иногда вместо статистики Дарбина-Уотсона используется средняя Неймана Q:
(4.17)
(4.18)
(4.19)
Если вычисленное по формуле (4.17) значение Q
меньше некоторого критического для данного числа наблюдений n
значения (для ), то мы говорим о положительной автокорреляции остатков, если больше значения - то об отрицательной автокорреляции. Эти значения приводятся в табл. П.8 Приложения.
Пример 20.
Проверим наличие автокорреляции остатков, полученных в результате моделирования временного ряда примера 1 (см. пример 18).
Прием 1.
(через циклический коэффициент автокорреляции).
Первый эмпирический нециклический коэффициент автокорреляции рассчитываем по следующим данным:
1 9 |
12,051 8,541 |
