Ковариационный анализ

Материал из MachineLearning.

Перейти к: навигация, поиск

Ковариационный анализ - совокупность методов математической статистики, относящихся к анализу моделей зависимости среднего значения некоторой случайной величины Y одновременно от набора количественных факторов X и неколичественных факторов F. По отношению к Y переменные X называются сопутствующими. Факторы F задают сочетания условий качественной природы, при которых были получены наблюдения Y и X, и описываются с помощью так называемых индикаторных переменных, причем среди сопутствующих и индикаторных переменных могут быть как случайные, так и неслучайные (контролируемые в эксперименте).

Если случайная величина Y является вектором, то говорят о многомерном ковариационном анализе.

Содержание

Примеры задач

Пример 1: Пусть у нас имеется 3 метода обучения арифметики и группа студентов. Студенты бьются случайным образом на 3 группы для обучения одним из методов. В конце курса обучения студенты проходят общий тест по результатам которого выставляются оценки. Также для каждого студента имеется одна или несколько характеристик (количественных) их общей образованности.

Требуется проверить гипотезу об одинаковой эффективности методик обучения.

Пример 2: Для сравнения качества нескольких видов крахмала (пшеничного, картофельного ...) был проведён эксперимент, в котором измерялась прочность крахмальных плёнок. Также для каждого испытания измерена толщина использовавшейся крахмальной плёнки.

Требуется проверить гипотезу об одинаковом качестве различного крахмала.

Пример 3: Пусть для нескольких различных школ были собраны отметки их учеников, полученные на общем для всех экзамене. Также для каждого из учеников известны отметки, полученные ими по другим экзаменам (например, вступительным в школу).

Требуется проверить гипотезу об одинаковом качестве образования в школах.

Постановка задачи

Основные теоретические и прикладные проблемы ковариационного анализа относятся к линейным моделям. В частности, если анализируются n наблюдений Y_1,...,Y_n с p сопутствующими переменными (X=(x^{(1)},...,x^{(p)})), k возможными типами условий эксперимента (F=(f_1,...,f_k)), то линейная модель соответствующего ковариационного анализа задается уравнением:

Y_i=\sum\limits_{j=1}^k{f_{ij}\theta_j} + \sum\limits_{j=1}^p{\beta_jx_i^{(j)} + \eps_{ij}}

где i=1,...,n, индикаторные переменные f_{ij} равны 1, если j-е условие эксперимента имело место при наблюдении Y_i, и равны 0 в противном случае. Коэффициенты \theta_j определяют эффект влияния j-го условия, x_i^{(j)} - значение сопутствующей переменной x^{(j)}, при котором получено наблюдение Y_i. \beta_j - значения соответствующих коэффициентов регрессии Y по x^{(j)}, \eps_{ij} - независимые случайные ошибки с нулевым математическим ожиданием.

Приведённая формула задаёт линейную модель однофакторного ковариационного анализа с p независимыми переменными и k уровнями фактора. При включении в модель дополнительных факторов в правой части уравнения появятся слагаемые, отвечающие за эффекты уровней вновь введённых в модель факторов.

Замечание: коэффициенты регрессии в приведённой формуле не зависят от качественных факторов. Это включает предположение, что линейная зависимость имеет одинаковые коэффициенты для каждого значения качественного фактора.

Основное назначение ковариационного анализа - использование в построении статистических оценок \theta_1,...,\theta_k; \beta_1,...,\beta_p и статистических критериев для проверки различных гипотез относительно значений этих параметров. Если в модели постулировать априори \beta_1=...=\beta_p=0, то получится модель дисперсионного анализа, если же исключить влияние неколичественных факторов (положить \theta_1=...=\theta_k=0), то получится модель регрессионного анализа.

Гипотезы и критерии ковариационного анализа

Основной гипотезой, проверяемой в ковариационном анализе является

H_0: \theta_1=\theta_2=\ldots=\theta_k.

В случае одной сопутствеющей переменной (p=1) эту гипотезу можно интерпретировать следующим образом. По предположениям линейной модели ковариационного анализа для каждого уровня фактора кривые регрессии зависимой переменной Y на сопутствующую переменную x параллельны. Гипотеза H_0 предполагает, что эти кривые совпадают.

Например, в задаче о сортах крахмале эта гипотеза утверждает, что различие прочности плёнок обусловлено исключительно различными значениями случайной переменной "толщина плёнки".

Обычно эта гипотеза проверяется с помощью критерия Фишера в результате сведения поставленной задачи к задачам дисперсионного анализа (см. [3] параграф 6.2).

Литература

  1. Кендалл М.Дж., Стьюарт А. Многомерный статистический анализ и временные ряды. — М., 1976.
  2. Шеффе Г. Дисперсионный анализ. — М., 1980.
  3. Фишер Р. А. Статистические методы для исследователей. — М. Госстатиздат. 1958.


Данная статья является непроверенным учебным заданием.
Студент: Участник:Tolstikhin
Преподаватель: Участник:Vokov
Срок: 31 декабря 2009

До указанного срока статья не должна редактироваться другими участниками проекта MachineLearning.ru. По его окончании любой участник вправе исправить данную статью по своему усмотрению и удалить данное предупреждение, выводимое с помощью шаблона {{Задание}}.

См. также методические указания по использованию Ресурса MachineLearning.ru в учебном процессе.


Источник — «http://machinelearning.ru/wiki/index.php?title=%D0%9A%D0%BE%D0%B2%D0%B0%D1%80%D0%B8%D0%B0%D1%86%D0%B8%D0%BE%D0%BD%D0%BD%D1%8B%D0%B9_%D0%B0%D0%BD%D0%B0%D0%BB%D0%B8%D0%B7»