Критерий Акаике

Материал из MachineLearning.

(Различия между версиями)

Перейти к: навигация, поиск

Версия 16:43, 14 июля 2026

Статья написана с использованием LLM **DeepSeek-V3** и проверена участником ~~Ilia Vdovin~~

Содержание

1 Критерий Акаике (AIC)

Критерий Акаике (AIC)

Критерий Акаике (AIC — от англ. Akaike Information Criterion) — один из наиболее распространённых информационных критериев для выбора статистических моделей по принципу максимума правдоподобия с учётом их сложности. AIC позволяет сравнивать модели, оценивая, насколько хорошо они описывают наблюдаемые данные, и одновременно штрафуя за излишнее количество параметров, что предотвращает переобучение.

Определение и мотивация

При построении статистических моделей исследователь часто сталкивается с дилеммой: увеличение числа параметров всегда повышает качество подгонки на обучающей выборке, но может ухудшить предсказательную способность на новых данных (генерализующая способность). Традиционные подходы, такие как проверка гипотез, не дают единой меры для сравнения невложенных моделей, а кросс-валидация вычислительно затратна. AIC предлагает простую и теоретически обоснованную оценку расстояния Кульбака–Лейблера между истинной моделью и оцениваемой, что делает его удобным инструментом для выбора модели в задачах прогнозирования и объяснительного моделирования.

Историческая справка

Критерий был предложен японским статистиком Хиротогу Акаике в 1974 году в работе «A new look at the statistical model identification» (IEEE Transactions on Automatic Control). Акаике исходил из идей теории информации и энтропии Шеннона, показав, что максимизация логарифмического правдоподобия эквивалентна минимизации информационного расхождения между истинным распределением и оцениваемой моделью.

Теоретические основы

Пусть имеется истинная модель $g(\mathbf{x})$ и кандидатная модель $f(\mathbf{x} \mid \boldsymbol{\theta})$ с $K$ параметрами. Расстояние Кульбака–Лейблера между ними:

$D_{KL}(g \parallel f) = \int g(\mathbf{x}) \ln \frac{g(\mathbf{x})}{f(\mathbf{x} \mid \boldsymbol{\theta})} \, d\mathbf{x} = \mathbb{E}_g[\ln g(\mathbf{x})] - \mathbb{E}_g[\ln f(\mathbf{x} \mid \boldsymbol{\theta})].$

Первое слагаемое одинаково для всех моделей, поэтому минимизация $D_{KL}$ эквивалентна максимизации $\mathbb{E}_g[\ln f(\mathbf{x} \mid \boldsymbol{\theta})]$ — среднего логарифма правдоподобия по истинному распределению. Акаике показал, что максимум логарифмического правдоподобия $\ln L(\hat{\boldsymbol{\theta}} \mid \mathbf{y})$ является смещённой оценкой этого математического ожидания, и смещение примерно равно числу параметров $K$ . Отсюда получается несмещённая оценка:

$\widehat{\mathbb{E}_g[\ln f]} = \ln L(\hat{\boldsymbol{\theta}} \mid \mathbf{y}) - K.$

Умножив на $-2$ (по историческим причинам, чтобы согласовать с распределением $\chi^2$ ), получают:

$AIC = -2 \ln L(\hat{\boldsymbol{\theta}} \mid \mathbf{y}) + 2K.$

Штраф $2K$ — это плата за неопределённость оценки параметров; каждый дополнительный параметр увеличивает AIC на 2, что эквивалентно требованию улучшения логарифмического правдоподобия как минимум на 1 (поскольку $-2\Delta \ln L > 2$ означает $\Delta \ln L > 1$ ).

Интерпретация и применение

AIC является относительной мерой качества модели. Чем меньше значение AIC, тем лучше модель. При сравнении нескольких моделей вычисляют разности $\Delta_i = AIC_i - AIC_{min}$ . Эмпирическое правило:

$\Delta_i \le 2$ — модели практически эквивалентны;
$4 \le \Delta_i \le 7$ — различие заметно;
$\Delta_i > 10$ — модель существенно хуже, её можно исключить из рассмотрения.

Важно, что AIC позволяет сравнивать только модели, построенные на одной и той же выборке и с одинаковым набором наблюдений (зависимая переменная должна быть идентичной). При сравнении моделей с разным числом параметров предпочтение отдаётся модели с меньшим AIC.

Пример

Пусть для данных подбираются линейная регрессия с 2 параметрами ( $AIC=120$ ) и полиномиальная модель с 5 параметрами ( $AIC=115$ ). Разность $\Delta=5$ указывает на умеренное преимущество полиномиальной модели; если $\Delta>10$ , выбор был бы очевидным.

Модификации

AICc (исправленный AIC для малых выборок) — вводит дополнительный штраф, зависящий от объёма выборки $n$ :

 
 Рекомендуется использовать при . Разработан Сугиурой (1978).

QAIC (Quasi-AIC) — для данных с передисперсией (например, в экологических моделях). Заменяет логарифмическое правдоподобие на квази-правдоподобие и вводит коэффициент дисперсии $\hat{c}$ :

 
 Используется, когда распределение данных не соответствует стандартным семействам (например, биномиальное с избыточной вариативностью).

Ограничения

Несостоятельность: AIC не стремится к выбору истинной модели с вероятностью 1 при $n \to \infty$ (в отличие от BIC), а склонен выбирать модели с избыточным числом параметров, если они дают сколь угодно малое улучшение правдоподобия. Это свойство называют асимптотической неэффективностью в смысле состоятельности.
Неприменим для сравнения моделей с разными объёмами данных или разными зависимыми переменными (например, с логарифмическим преобразованием).
Чувствителен к выбору распределения; если оно специфицировано неверно, выводы могут быть ошибочными.
Требует, чтобы модели были оценены методом максимального правдоподобия; для других методов оценки (например, метод моментов) использование AIC не обосновано.

Сравнение с другими критериями

BIC (Bayesian Information Criterion, Шварц, 1978): $BIC = -2 \ln L + K \ln n$ . Штраф растёт с объёмом выборки, поэтому BIC более консервативен и асимптотически состоятелен. При $n > 8$ BIC сильнее штрафует за параметры, чем AIC. BIC предпочтителен, когда истинная модель предполагается конечномерной и входит в множество кандидатов.
DIC (Deviance Information Criterion) — для байесовских моделей, использует апостериорное среднее отклонений.
WAIC (Widely Applicable Information Criterion) — полностью байесовский критерий, согласованный с кросс-валидацией leave-one-out.
Кросс-валидация — даёт прямую оценку ошибки прогноза, но требует многократного переобучения; при больших данных может быть предпочтительнее AIC.

Практические рекомендации

Если цель — прогнозирование и размер выборки мал ( $n/K < 40$ ), используйте AICc.
Если цель — идентификация истинной структуры модели (например, отбор значимых предикторов) при большом $n$ , предпочтительнее BIC.
Всегда приводите значения AIC для всех сравниваемых моделей, а также $\Delta_i$ и веса Акаике $w_i = \frac{\exp(-\Delta_i/2)}{\sum_j \exp(-\Delta_j/2)}$ , которые интерпретируются как вероятности того, что модель $i$ является лучшей среди рассматриваемых (в смысле KL-расстояния).
Избегайте «драпировки» моделей (data dredging) — сравнение большого числа моделей без априорных гипотез повышает риск случайных находок; используйте коррекцию на множественное тестирование.

Заключение

Критерий Акаике остаётся одним из самых цитируемых инструментов в статистическом моделировании благодаря своей простоте, теоретической прозрачности и универсальности. Несмотря на разработанные позднее альтернативы, AIC сохраняет актуальность в задачах, где приоритетом является предсказательная точность, особенно при умеренных размерах выборки. Современные тенденции — интеграция AIC с методами регуляризации (LASSO, ридж-регрессия) и использование информационных критериев в глубоком обучении для выбора архитектур — расширяют область его применения.

Литература

Akaike, H. (1974). A new look at the statistical model identification. IEEE Transactions on Automatic Control, 19(6), 716–723.
Burnham, K. P., & Anderson, D. R. (2002). Model Selection and Multimodel Inference: A Practical Information-Theoretic Approach. 2nd ed. Springer.
McQuarrie, A. D. R., & Tsai, C.-L. (1998). Regression and Time Series Model Selection. World Scientific.
Konishi, S., & Kitagawa, G. (2008). Information Criteria and Statistical Modeling. Springer.
Claeskens, G., & Hjort, N. L. (2008). Model Selection and Model Averaging. Cambridge University Press.

Источник — «http://machinelearning.ru/wiki/index.php?title=%D0%9A%D1%80%D0%B8%D1%82%D0%B5%D1%80%D0%B8%D0%B9_%D0%90%D0%BA%D0%B0%D0%B8%D0%BA%D0%B5»

Категории: Статистические критерии | Выбор модели | Теория информации

@@ Строка 1: / Строка 1: @@
-{{Задание|Mordasova|Константин Воронцов|15 февраля 2010}}
+{{well|Статья написана с использованием LLM **DeepSeek-V3** и проверена участником ~~Ilia Vdovin~~}}
-'''Критерий Акаике''' ('''Akaike's information criterion''', '''AIC''') - критерий выбора из класса параметризованных [[Регрессионная модель|регрессионных моделей]]. Акаике (Akaike) предложил критерий выбора, оценивающий модели с разным числом параметров. Критерий связан с понятием '''расстояния Кульбака — Лейблера''' (Kullback–Leibler), при помощи которого можно оценить расстояние между моделями. При применении критерия в соответствии с [[Бритва Оккама|принципом Оккама]] лучшей считается модель, в достаточной мере полно описывающая данные с наименьшим количеством параметров. Тесно связан с [[Байесовский информационный критерий|байесовским информационным критерием]], но в отличие от него содержит функцию штрафа, линейно зависящую от числа параметров.
-==Описание критерия==
-Расстояние Кульбака-Лейблера между двумя непрерывными функциями есть интеграл <tex>I(f,g)=\int{f(x)\ln{\frac{f(x)}{g(x|\theta)}}d(x)}</tex>.
-Акаике показал, что для оценки расстояния между моделями можно оценить величину <tex>E_{\hat{\theta}}\[I(f,\hat{g})\]</tex>, где <tex>\hat{\theta}</tex> - оценка вектора параметров, в который входят параметры модели и случайные величины; <tex>\hat{g}=g(\cdot|\hat{\theta})</tex>. При этом максимум логарифмической функции правдоподобия и оценка матожидания связаны следующим выражением: <tex>\log(\mathcal{L}(\hat{\theta}|y))-K=Const-\hat{E}_{\hat{\theta}}\[I(f,\hat{g})\]</tex>,
-где <tex>K</tex> - число параметров модели, а <tex>\mathcal{L}</tex> -максимум логарифмической [[Метод наибольшего правдоподобия|функции правдоподобия]].
-Таким образом вместо вычисления расстояния между моделями можно ввести оценивающий критерий.<br />
-<tex>AIC = 2K-2\log(\mathcal{L}(\hat{\theta}|y))</tex><br />
+= Критерий Акаике (AIC) =
-В случае задачи [[Линейная регрессия|линейной регрессии]] можно записать критерий Акаике через SSE (Sum of Squared Errors) - сумму квадратов остатков.<br />
+'''Критерий Акаике''' ('''AIC''' — от англ. ''Akaike Information Criterion'') — один из наиболее распространённых [[информационный критерий|информационных критериев]] для [[выбор модели|выбора статистических моделей]] по принципу максимума [[функция правдоподобия|правдоподобия]] с учётом их сложности. AIC позволяет сравнивать модели, оценивая, насколько хорошо они описывают наблюдаемые данные, и одновременно штрафуя за излишнее количество параметров, что предотвращает [[переобучение]].
-<tex>AIC = 2K+n\[\ln(\hat{\sigma}^2)\]</tex> <br />
+== Определение и мотивация ==
-<tex>SSE=\|f(x_i)-y_i\|_2=\sum_{i=1}^N(y_i-f(w,x_i))^2</tex>;<br />
+При построении статистических моделей исследователь часто сталкивается с дилеммой: увеличение числа параметров всегда повышает качество подгонки на обучающей выборке, но может ухудшить предсказательную способность на новых данных ([[генерализация|генерализующая способность]]). Традиционные подходы, такие как проверка гипотез, не дают единой меры для сравнения невложенных моделей, а [[кросс-валидация]] вычислительно затратна. AIC предлагает простую и теоретически обоснованную оценку [[расстояние Кульбака–Лейблера|расстояния Кульбака–Лейблера]] между истинной моделью и оцениваемой, что делает его удобным инструментом для выбора модели в задачах прогнозирования и объяснительного моделирования.
-<tex>\hat{\sigma}^2=\frac{SSE}{N-2}</tex> — дисперсия остатков;<br />
+== Историческая справка ==
-Лучшая модель соответствует минимальному значению критерия Акаике. Абсолютное значение критерия не несет в себе полезной информации.
-==Особенности применения критерия==
+Критерий был предложен японским статистиком [[Хиротогу Акаике]] в 1974 году в работе «A new look at the statistical model identification» (IEEE Transactions on Automatic Control). Акаике исходил из идей [[теория информации|теории информации]] и [[энтропия|энтропии]] Шеннона, показав, что максимизация логарифмического правдоподобия эквивалентна минимизации информационного расхождения между истинным распределением и оцениваемой моделью.
-*Штрафование числа параметров ограничивает значительный рост сложности модели.
-*Проверка критерия является трудоемкой операцией.
-*Может сравнивать модели только с выборками равного размера.
-*Порядок выбора моделей неважен.
-==Модификации критерия==
+== Теоретические основы ==
-*'''AIC<sub>c</sub>''' был предложен  для использования в задач маленькой размерности, когда <tex>\frac{n}{K}\leq 40</tex>. При решении более общих задач большей размерности рекомендуется использовать AIC. В то же время, при больших значениях <tex>\frac{n}{K}</tex> использование двух критериев равно возможно. Особенность критерия AIC<sub>c</sub> заключается в том, что функция штрафа умножается на поправочный коэффициент. <br />
-<tex>AIC_c=AIC+\frac{2K(K+1)}{n-K-1}</tex> <br /><br />
-<tex>AIC_c=\ln\frac{SSE}{n}+\frac{n+K}{n-K-2}</tex>
-*'''QAIC''' следует использовать для моделей, в которых часть переменных является случайными величинами с простыми дискретными распределениями (биномиальное, пуассоновское и т.д.). В таких случаях используется более общая модель, которая получается из рассматриваемой добавлением параметра обобщенного распределения. Оценка параметра определяется как распределение <tex>\chi^2</tex>. Обычно значение параметра лежит на отрезке <tex>c\in\[1;4\]</tex>.
-Если <tex>\hat{c}<1</tex>, то следует заменить <tex>c = 1</tex>. При <tex>c=1</tex> QAIC сводится к AIC.<br />
-<tex>QAIC = 2K-\frac{\ln(L)}{\hat{c}}</tex><br /><br />
-<tex>QAIC_c = QAIC+\frac{2K(K+1)}{n-K-1}</tex>
-==См. также==
+Пусть имеется истинная модель <tex>g(\mathbf{x})</tex> и кандидатная модель <tex>f(\mathbf{x} \mid \boldsymbol{\theta})</tex> с <tex>K</tex> параметрами. [[Расстояние Кульбака–Лейблера]] между ними:
-*[[Байесовский информационный критерий]]
-*[[Многомерная линейная регрессия]]
-*[[Линейная регрессия]]
-==Литература==
-#[http://en.wikipedia.org/wiki/Akaike_information_criterion Akaike's information criterion on Wikipedia]
-#{{книга
+<tex>D_{KL}(g \parallel f) = \int g(\mathbf{x}) \ln \frac{g(\mathbf{x})}{f(\mathbf{x} \mid \boldsymbol{\theta})} \, d\mathbf{x} = \mathbb{E}_g[\ln g(\mathbf{x})] - \mathbb{E}_g[\ln f(\mathbf{x} \mid \boldsymbol{\theta})].</tex>
-|автор         = Akaike, H.
-|заглавие      = A new look at the statistical model identification
+Первое слагаемое одинаково для всех моделей, поэтому минимизация <tex>D_{KL}</tex> эквивалентна максимизации <tex>\mathbb{E}_g[\ln f(\mathbf{x} \mid \boldsymbol{\theta})]</tex> — среднего логарифма правдоподобия по истинному распределению. Акаике показал, что [[метод максимального правдоподобия|максимум логарифмического правдоподобия]] <tex>\ln L(\hat{\boldsymbol{\theta}} \mid \mathbf{y})</tex> является смещённой оценкой этого математического ожидания, и смещение примерно равно числу параметров <tex>K</tex>. Отсюда получается несмещённая оценка:
-|ссылка        = http://ieeexplore.ieee.org/search/wrapper.jsp?arnumber=1100705
-|издание       = IEEE Transactions on Automatic Control
+<tex>\widehat{\mathbb{E}_g[\ln f]} = \ln L(\hat{\boldsymbol{\theta}} \mid \mathbf{y}) - K.</tex>
-|год           = 1974
-|том           = 19
+Умножив на <tex>-2</tex> (по историческим причинам, чтобы согласовать с [[хи-квадрат|распределением <tex>\chi^2</tex>]]), получают:
-|страниц       = 716--723
-}}
+<tex>AIC = -2 \ln L(\hat{\boldsymbol{\theta}} \mid \mathbf{y}) + 2K.</tex>
-#{{книга
-|автор         = Liddle A. R.
+'''Штраф <tex>2K</tex>''' — это плата за неопределённость оценки параметров; каждый дополнительный параметр увеличивает AIC на 2, что эквивалентно требованию улучшения логарифмического правдоподобия как минимум на 1 (поскольку <tex>-2\Delta \ln L > 2</tex> означает <tex>\Delta \ln L > 1</tex>).
-|заглавие      = Information criteria for astrophysical model selection
-|ссылка        = http://xxx.adelaide.edu.au/PS_cache/astro-ph/pdf/0701/0701113v2.pdf
+== Интерпретация и применение ==
-|издание       = Advances in Neural Information Processing Systems
-|издательство  = Astronomy Centre, University of Sussex
+AIC является относительной мерой качества модели. '''Чем меньше значение AIC, тем лучше модель'''. При сравнении нескольких моделей вычисляют разности <tex>\Delta_i = AIC_i - AIC_{min}</tex>. Эмпирическое правило:
-|год           = 2008
-}}
+* <tex>\Delta_i \le 2</tex> — модели практически эквивалентны;
-#{{книга
+* <tex>4 \le \Delta_i \le 7</tex> — различие заметно;
-|автор        = Burnham K. P., Anderson D.R.
+* <tex>\Delta_i > 10</tex> — модель существенно хуже, её можно исключить из рассмотрения.
-|заглавие     = Model selection and multimodel inference: a practical information-theoretic approach
-|издание      = 2-е изд
+Важно, что AIC позволяет сравнивать только модели, построенные на '''одной и той же''' выборке и с одинаковым набором наблюдений (зависимая переменная должна быть идентичной). При сравнении моделей с разным числом параметров предпочтение отдаётся модели с меньшим AIC.
-|издательство = Springer
-|год          = 2002
+=== Пример ===
-|страниц      = 488
+Пусть для данных подбираются линейная регрессия с 2 параметрами (<tex>AIC=120</tex>) и полиномиальная модель с 5 параметрами (<tex>AIC=115</tex>). Разность <tex>\Delta=5</tex> указывает на умеренное преимущество полиномиальной модели; если <tex>\Delta>10</tex>, выбор был бы очевидным.
-|ссылка       = http://books.google.ru/books?id=BQYR6js0CC8C&dq=Model+selection+and+multimodel+inference&source=gbs_navlinks_s
-|isbn         = 0387953647
+== Модификации ==
-}}
-#{{книга
+* '''AICc''' (исправленный AIC для малых выборок) — вводит дополнительный штраф, зависящий от объёма выборки <tex>n</tex>:
-|автор        = McQuarrie A. D. R., Tsai C. L.
+  <tex>AICc = AIC + \frac{2K(K+1)}{n - K - 1}.</tex>
-|заглавие     = Regression and time series model selection
+  Рекомендуется использовать при <tex>n/K < 40</tex>. Разработан Сугиурой (1978).
-|издательство = World Scientific
+* '''QAIC''' (Quasi-AIC) — для данных с [[передисперсия|передисперсией]] (например, в экологических моделях). Заменяет логарифмическое правдоподобие на квази-правдоподобие и вводит коэффициент дисперсии <tex>\hat{c}</tex>:
-|год          = 1998
+  <tex>QAIC = -2 \ln L / \hat{c} + 2K.</tex>
-|страниц      = 455
+  Используется, когда распределение данных не соответствует стандартным семействам (например, [[биномиальное распределение|биномиальное]] с избыточной вариативностью).
-|ссылка       = http://books.google.ru/books?id=INw5s0jA14wC&printsec=frontcover&dq=Regression+and+time+series+model+selectio&ei=6dVyS8jKI5C8yQTHy8WlBQ&cd=1#v=onepage&q=&f=false
-|isbn         = 981023242X
+== Ограничения ==
-}}
-#{{книга
+* '''Несостоятельность''': AIC не стремится к выбору истинной модели с вероятностью 1 при <tex>n \to \infty</tex> (в отличие от [[байесовский информационный критерий|BIC]]), а склонен выбирать модели с избыточным числом параметров, если они дают сколь угодно малое улучшение правдоподобия. Это свойство называют асимптотической неэффективностью в смысле состоятельности.
-|автор         = Бидюк П.И., Зворыгина Т.Ф.
+* Неприменим для сравнения моделей с разными объёмами данных или разными [[зависимая переменная|зависимыми переменными]] (например, с логарифмическим преобразованием).
-|заглавие      = Cтруктурный анализ методик построения регрессионных моделей по временным рядам наблюдений
+* Чувствителен к выбору [[распределение вероятностей|распределения]]; если оно специфицировано неверно, выводы могут быть ошибочными.
-|ссылка        = http://www.gmdh.net/articles/usim/Bidyuk.pdf
+* Требует, чтобы модели были оценены методом максимального правдоподобия; для других методов оценки (например, [[метод моментов|метод моментов]]) использование AIC не обосновано.
-}}
+== Сравнение с другими критериями ==
+* '''[[Байесовский информационный критерий|BIC]]''' (Bayesian Information Criterion, Шварц, 1978): <tex>BIC = -2 \ln L + K \ln n</tex>. Штраф растёт с объёмом выборки, поэтому BIC более консервативен и асимптотически состоятелен. При <tex>n > 8</tex> BIC сильнее штрафует за параметры, чем AIC. BIC предпочтителен, когда истинная модель предполагается конечномерной и входит в множество кандидатов.
+* '''[[DIC]]''' (Deviance Information Criterion) — для байесовских моделей, использует [[апостериорное распределение|апостериорное]] среднее отклонений.
+* '''[[WAIC]]''' (Widely Applicable Information Criterion) — полностью байесовский критерий, согласованный с [[кросс-валидация|кросс-валидацией]] leave-one-out.
+* '''[[Кросс-валидация]]''' — даёт прямую оценку ошибки прогноза, но требует многократного переобучения; при больших данных может быть предпочтительнее AIC.
+== Практические рекомендации ==
+* Если цель — прогнозирование и размер выборки мал (<tex>n/K < 40</tex>), используйте AICc.
+* Если цель — идентификация истинной структуры модели (например, отбор значимых предикторов) при большом <tex>n</tex>, предпочтительнее BIC.
+* Всегда приводите значения AIC для всех сравниваемых моделей, а также <tex>\Delta_i</tex> и веса Акаике <tex>w_i = \frac{\exp(-\Delta_i/2)}{\sum_j \exp(-\Delta_j/2)}</tex>, которые интерпретируются как вероятности того, что модель <tex>i</tex> является лучшей среди рассматриваемых (в смысле KL-расстояния).
+* Избегайте «драпировки» моделей (data dredging) — сравнение большого числа моделей без априорных гипотез повышает риск случайных находок; используйте коррекцию на множественное тестирование.
+== Заключение ==
+Критерий Акаике остаётся одним из самых цитируемых инструментов в статистическом моделировании благодаря своей простоте, теоретической прозрачности и универсальности. Несмотря на разработанные позднее альтернативы, AIC сохраняет актуальность в задачах, где приоритетом является предсказательная точность, особенно при умеренных размерах выборки. Современные тенденции — интеграция AIC с методами регуляризации ([[LASSO]], [[ридж-регрессия]]) и использование информационных критериев в глубоком обучении для выбора архитектур — расширяют область его применения.
+== Литература ==
+# Akaike, H. (1974). A new look at the statistical model identification. ''IEEE Transactions on Automatic Control'', 19(6), 716–723.
+# Burnham, K. P., & Anderson, D. R. (2002). ''Model Selection and Multimodel Inference: A Practical Information-Theoretic Approach''. 2nd ed. Springer.
+# McQuarrie, A. D. R., & Tsai, C.-L. (1998). ''Regression and Time Series Model Selection''. World Scientific.
+# Konishi, S., & Kitagawa, G. (2008). ''Information Criteria and Statistical Modeling''. Springer.
+# Claeskens, G., & Hjort, N. L. (2008). ''Model Selection and Model Averaging''. Cambridge University Press.
+[[Категория:Статистические критерии]]
+[[Категория:Выбор модели]]
+[[Категория:Теория информации]]