Критерий Давидсона-Маккиннона
Материал из MachineLearning.
м (Новая: '''Критерий Давидсона-Маккиннона''' (также, ''J-критерий Давидсона-Маккиннона'', англ. ''Davidson-MacKinnon J test'') ис...) |
м (викификация, ссылки) |
||
Строка 1: | Строка 1: | ||
- | '''Критерий Давидсона-Маккиннона''' (также, ''J-критерий Давидсона-Маккиннона'', англ. ''Davidson-MacKinnon J test'') используется сравнения невложенных регрессионных моделей. | + | '''Критерий Давидсона-Маккиннона''' (также, ''J-критерий Давидсона-Маккиннона'', англ. ''Davidson-MacKinnon J test'') — [[Статистический критерий|статистический критерий]], используется сравнения [[Невложенные модели|невложенных]] [[Регрессионная модель|регрессионных моделей]]. |
== Основная идея == | == Основная идея == | ||
- | Пусь даны две невложенные регрессионные модели, т.е. ни одна из них не является частным случаем другой. | + | Пусь даны две [[Невложенные модели|невложенные]] [[Регрессионная модель|регрессионные модели]], т.е. ни одна из них не является частным случаем другой. |
- | Идея критерия Давидона-Маккиннона состоит в следующем: если первая модель содержит верный набор свободных переменных, то включение восстановленных значений второй модели в этот набор не должно приводить к значимым улучшениям. Но если это так, то, возможно, первая модель не является верной. | + | Идея критерия Давидона-Маккиннона состоит в следующем: если первая модель содержит верный набор [[Свободные переменные|свободных переменных]], то включение [[Восстановленные значения|восстановленных значений]] второй модели в этот набор не должно приводить к значимым улучшениям. Но если это так, то, возможно, первая модель не является верной. |
- | Таким образом для сравнения обеих моделях необходимо добавить значения первой модели во вторую и наоборот. Тестовая статистика критерия проверяет значимость восстановленных значений в расширенной модели, обычно для этого используется t-статистика Стьюдента. | + | Таким образом для сравнения обеих моделях необходимо добавить значения первой модели во вторую и наоборот. [[Статистика_(функция_выборки)|Тестовая статистика]] критерия проверяет значимость восстановленных значений в расширенной модели, обычно для этого используется [[Критерий Стьюдента|t-статистика Стьюдента]]. |
== Определение == | == Определение == | ||
- | Пусть даны две регрессионные модели: | + | Пусть даны две [[Регрессионная модель|регрессионные модели]]: |
:: <tex>y = f_1(w_1, x_1) + \varepsilon_1</tex>, | :: <tex>y = f_1(w_1, x_1) + \varepsilon_1</tex>, | ||
:: <tex>y = f_2(w_2, x_2) + \varepsilon_2</tex>, | :: <tex>y = f_2(w_2, x_2) + \varepsilon_2</tex>, | ||
- | и пусть они | + | и пусть они [[Невложенные модели|невложенные]], т.е. для некоторого <tex>w_1</tex> справедливо <tex>f_1(w_1, x_1) \neq f_2(w_2, x_2)</tex> при любых <tex>w_2</tex>. |
- | Обозначим восстановленные значения этих моделей через <tex>\hat{y}</tex> и <tex>\hat{\hat{y}}</tex>, соответственно. | + | Обозначим [[Восстановленные значения|восстановленные значения]] этих моделей через <tex>\hat{y}</tex> и <tex>\hat{\hat{y}}</tex>, соответственно. |
Рассмотрим следующие модели: | Рассмотрим следующие модели: | ||
Строка 25: | Строка 25: | ||
:: <tex>y = f_2(w_2, x_2) + \gamma \hat{y} + \varepsilon_4</tex>. | :: <tex>y = f_2(w_2, x_2) + \gamma \hat{y} + \varepsilon_4</tex>. | ||
- | При помощи критерия Стьюдента проверим следующие гипотезы | + | При помощи [[Критерий Стьюдента|критерия Стьюдента]] проверим следующие [[Нулевая гипотеза|нулевые гипотезы]] против соответствующих [[Альтернативная гипотеза|альтернатив]]: |
:: <tex>H_{01}</tex>: <tex>\beta = 0</tex>, против альтернативы <tex>H_{02}</tex>: <tex>\beta \neq 0</tex>, | :: <tex>H_{01}</tex>: <tex>\beta = 0</tex>, против альтернативы <tex>H_{02}</tex>: <tex>\beta \neq 0</tex>, | ||
Строка 44: | Строка 44: | ||
== Реализации == | == Реализации == | ||
- | * | + | * В системе [[Matlab]]: встроенной реализации нет. |
- | * R: функция [http://www.inside-r.org/packages/cran/lmtest/docs/jtest <code>jtest</code>] в пакете [http://cran.r-project.org/web/packages/lmtest/index.html <code>lmtest</code>]. | + | * В системе [[R]]: функция [http://www.inside-r.org/packages/cran/lmtest/docs/jtest <code>jtest</code>] в пакете [http://cran.r-project.org/web/packages/lmtest/index.html <code>lmtest</code>]. |
== Пример == | == Пример == | ||
- | См. W. H. Greene. Econometric Analysis, 5th ed. New Jersey, Prentice Hall. 2003. Примеры 7.11 и 7.12 | + | См. W. H. Greene. Econometric Analysis, 5th ed. New Jersey, Prentice Hall. 2003. Примеры 7.11 и 7.12. |
<pre> | <pre> | ||
Строка 77: | Строка 77: | ||
</pre> | </pre> | ||
- | == | + | == Литература == |
* R. Davidson, J. MacKinnon. Several Tests for Model Specification in the Presence of Alternative Hypotheses. 1981. Econometrica, т. 49, с. 781-793. | * R. Davidson, J. MacKinnon. Several Tests for Model Specification in the Presence of Alternative Hypotheses. 1981. Econometrica, т. 49, с. 781-793. | ||
Строка 85: | Строка 85: | ||
* W. H. Greene. Econometric Analysis, 5th ed. New Jersey, Prentice Hall. 2003. | * W. H. Greene. Econometric Analysis, 5th ed. New Jersey, Prentice Hall. 2003. | ||
* Dale S. Bremmer. J-Tests: To Nest Or Not To Nest, That Is The Question. “Quantitative Methods” Session of the 79th Annual Conference of the Western Economics Association International in Vancouver, British Columbia, Canada, on July 3, 2003 | * Dale S. Bremmer. J-Tests: To Nest Or Not To Nest, That Is The Question. “Quantitative Methods” Session of the 79th Annual Conference of the Western Economics Association International in Vancouver, British Columbia, Canada, on July 3, 2003 | ||
+ | |||
+ | == Ссылки == | ||
+ | |||
* [http://ru.wikipedia.org/wiki/%D0%A2%D0%B5%D1%81%D1%82_%D0%BD%D0%B5%D0%B2%D0%BB%D0%BE%D0%B6%D0%B5%D0%BD%D0%BD%D1%8B%D1%85_%D0%BC%D0%BE%D0%B4%D0%B5%D0%BB%D0%B5%D0%B9 Тест невложенных моделей] в Википедии. | * [http://ru.wikipedia.org/wiki/%D0%A2%D0%B5%D1%81%D1%82_%D0%BD%D0%B5%D0%B2%D0%BB%D0%BE%D0%B6%D0%B5%D0%BD%D0%BD%D1%8B%D1%85_%D0%BC%D0%BE%D0%B4%D0%B5%D0%BB%D0%B5%D0%B9 Тест невложенных моделей] в Википедии. | ||
+ | * [[Регрессионная модель]] | ||
+ | * [[Регрессионный анализ]] | ||
+ | * [[Невложенные модели]] | ||
+ | * [[Статистический критерий]] | ||
+ | * [[Проверка статистических гипотез]] | ||
+ | * [[Критерий Стьюдента]] | ||
[[Категория:Прикладная статистика]] | [[Категория:Прикладная статистика]] | ||
[[Категория:Статистические критерии]] | [[Категория:Статистические критерии]] |
Версия 12:44, 9 января 2014
Критерий Давидсона-Маккиннона (также, J-критерий Давидсона-Маккиннона, англ. Davidson-MacKinnon J test) — статистический критерий, используется сравнения невложенных регрессионных моделей.
Содержание |
Основная идея
Пусь даны две невложенные регрессионные модели, т.е. ни одна из них не является частным случаем другой.
Идея критерия Давидона-Маккиннона состоит в следующем: если первая модель содержит верный набор свободных переменных, то включение восстановленных значений второй модели в этот набор не должно приводить к значимым улучшениям. Но если это так, то, возможно, первая модель не является верной.
Таким образом для сравнения обеих моделях необходимо добавить значения первой модели во вторую и наоборот. Тестовая статистика критерия проверяет значимость восстановленных значений в расширенной модели, обычно для этого используется t-статистика Стьюдента.
Определение
Пусть даны две регрессионные модели:
-
,
-
,
-
и пусть они невложенные, т.е. для некоторого справедливо
при любых
.
Обозначим восстановленные значения этих моделей через и
, соответственно.
Рассмотрим следующие модели:
-
,
-
.
-
При помощи критерия Стьюдента проверим следующие нулевые гипотезы против соответствующих альтернатив:
-
:
, против альтернативы
:
,
-
:
, против альтернативы
:
.
-
Вывод критерия определяется по таблице:
принята
отвергнута
принята
Модели одинаково хороши Первая модель значимо лучше отвергнута
Вторая модель значимо лучше Модели одинаково плохи
Реализации
Пример
См. W. H. Greene. Econometric Analysis, 5th ed. New Jersey, Prentice Hall. 2003. Примеры 7.11 и 7.12.
# В системе R, используется дополнительный пакет lmtest. # Загрузка данных > data(USDistLag) > usdl <- na.contiguous(cbind(USDistLag, lag(USDistLag, k = -1))) > colnames(usdl) <- c("con", "gnp", "con1", "gnp1") # Построение моделей > fm1 <- lm(con ~ gnp + con1, data = usdl) > fm2 <- lm(con ~ gnp + gnp1, data = usdl) # Применение критерия > jtest(fm1, fm2) J test Model 1: con ~ gnp + con1 Model 2: con ~ gnp + gnp1 Estimate Std. Error t value Pr(>|t|) M1 + fitted(M2) -2.7041 0.76273 -3.5454 0.0029371 ** M2 + fitted(M1) 2.7436 0.52710 5.2051 0.0001067 *** --- Signif. codes: 0 ‘***’ 0.001 ‘**’ 0.01 ‘*’ 0.05 ‘.’ 0.1 ‘ ’ 1
Литература
- R. Davidson, J. MacKinnon. Several Tests for Model Specification in the Presence of Alternative Hypotheses. 1981. Econometrica, т. 49, с. 781-793.
- R. Davidson, J. MacKinnon, H. White. Tests for Model Specification in the Presence of Alternative Hypotheses. Some Further Results. 1983. Journal of Econometrics 21, 53-70. North-Holland Publishing company.
- R. Davidson, J. MacKinnon. Estimation and Inference in Econometrics. Oxford University Press. 1993.
- R. Davidson, J. MacKinnon. Econometric Theory and Methods. Oxford University Press. 2004.
- W. H. Greene. Econometric Analysis, 5th ed. New Jersey, Prentice Hall. 2003.
- Dale S. Bremmer. J-Tests: To Nest Or Not To Nest, That Is The Question. “Quantitative Methods” Session of the 79th Annual Conference of the Western Economics Association International in Vancouver, British Columbia, Canada, on July 3, 2003