Метод Бенджамини-Хохберга

Материал из MachineLearning.

(Различия между версиями)

Текущая версия

Метод Бенджамини-Хохберга^[1]^[1] — один из методов контроля ожидаемой доли ложных отклонений гипотез (FDR) который утверждает, что при определенных ограничениях на статистики гипотез $T_i$ для достижения контроля FDR на уровне $\alpha$ достаточно, чтобы отвергались гипотезы $H_i$ , для которых $p_i \le \frac{i\alpha}{m}$ , где $m$ — количество гипотез.

Определение

Пусть $H_{1},...,H_{m}$ — семейство гипотез, а $p_{1},...,p_{m}$ — соответствующие им достигаемые уровни значимости. Обозначим за $R$ - число отвергнутых гипотез, а за $V$ - число неверно отвергнутых гипотез, т.е. число ошибок первого рода.

Ожидаемая доля ложных отклонений гипотез, или FDR, определяется следующим образом

$FDR\:=\: \operator{E}\left(\frac{V}{R}[R > 0]\right)$

Контроль над FDR на уровне $\alpha$ означает, что

$FDR\:=\: \operator{E}\left(\frac{V}{R}[R > 0]\right) \leq \alpha$

Метод Бенджамини-Хохберга

Это нисходящая процедура(по аналогии с методом Холма и методом Шидака-Холма) со следующими уровнями значимости

$\alpha_1 = \frac{\alpha}{m}\:,\:\dots\:,\:\alpha_i = \frac{i\alpha}{m}\:, \:\dots\:, \:\alpha_m = \alpha$

Пусть $p_{(1)}\leq \ldots \leq p_{(m)}$ — уровни значимости $p_i$ , упорядоченные по неубыванию, $H_{(1)}, \ldots, H_{(m)}$ — соответствующие $p_{(i)}$ гипотезы. Процедура метода Бенджамини-Хохберга определена следующим образом.

Шаг 1. Если $p_{(1)}\geq\frac{\alpha}{m}$ , принять гипотезы $H_{(1)}, \ldots, H_{(m)}$ и остановиться. Иначе, если $p_{(1)}<\frac{\alpha}{m}$ , отвергнуть гипотезу $H_{(1)}$ и продолжить проверку оставшихся гипотез на уровне значимости $\frac{2\alpha}{m}$ .

Шаг 2. Если $p_{(2)}\geq\frac{2\alpha}{m}$ , принять гипотезы $H_{(2)}, \ldots, H_{(m)}$ и остановиться. Иначе, если $p_{(2)}<\frac{2\alpha}{m}$ , отвергнуть гипотезу $H_{(2)}$ и продолжить проверку оставшихся гипотез на уровне значимости $\frac{3\alpha}{m}$ .

И т.д.

Метод обеспечивает контроль над FDR на уровне $\alpha$ при нижеследующих условиях.

Ограничения

Статистики $T_i$ независимы или выполняется следующее свойство (PRDS^[1] on $T_i,\: i \in M_0$ ):

$\operator{P}(X\in D|T_i=x)$ не убывает по $x\:\forall i\in M_0$ ,

где $M_0$ - множество индексов верных гипотез, $D$ - произвольное возрастающее множество, то есть, такое, что из $x\in D$ и $y \geq x$ следует $y\in D$

Альтернативная постановка

Переходим к модифицированным достигаемым уровням значимости:

$\tilde p_{(i)}\: =\: \min(1,\: \max(\frac{mp_{(i)}}{i}, \:\tilde p_{(i-1)}))$

Пример

$n=20, \;m=200, \;m_0 = 150;$

$X_{ij} \sim N(0,1), \;i=1,\ldots,m_0, \;j=1,\ldots,n;$

$X_{ij} \sim N(1,1),\; i=m_0+1,\ldots,m, \;j=1,\ldots,n;$

$H_i: EX_{ij} = 0, \;H_i': EX_{ij} \ne 0;$

для проверки используем одновыборочный критерий Стьюдента.

С поправкой Холма(метод Холма):

	Верных $H_i$	Неверных $H_i$	Всего
Принятых $H_i$	150	24	174
Отвергнутых $H_i$	0	26	26
Всего	150	50	200

С методом Бенджамини-Хохберга:

	Верных $H_i$	Неверных $H_i$	Всего
Принятых $H_i$	148	4	152
Отвергнутых $H_i$	2	46	48
Всего	150	50	200

Реализации

MATLAB: Benjamini and Hochberg/Yekutieli Procedure for Controlling False Discovery Rate ^[1] - реализация на MathWorks.com
R: функция p.adjust^[1] (с параметром method="BH") из стандартного пакета stats позволяет получить модифицированные уровни значимости с учетом поправки метода Бенджамини-Хохберга.

Ссылки

См. также

Метод Холма

Метод Бенджамини-Иекутиели

Источник — «http://machinelearning.ru/wiki/index.php?title=%D0%9C%D0%B5%D1%82%D0%BE%D0%B4_%D0%91%D0%B5%D0%BD%D0%B4%D0%B6%D0%B0%D0%BC%D0%B8%D0%BD%D0%B8-%D0%A5%D0%BE%D1%85%D0%B1%D0%B5%D1%80%D0%B3%D0%B0»

Категории: Прикладная статистика | Множественная проверка гипотез

@@ Строка 1: / Строка 1: @@
-'''Метод Бенджамини-Хохберга''' — один из методов контроля ожидаемой доли ложных отклонений гипотез ([[FDR]]) который утверждает, что при определенных ограничениях на статистики гипотез <tex> T_i</tex> для достижения контроля FDR на уровне  <tex>\alpha</tex> достаточно, чтобы отвергались гипотезы <tex>H_i</tex>, для которых <tex>p_i \le \frac{i\alpha}{m}</tex>, где <tex>m</tex> — количество гипотез.
+'''Метод Бенджамини-Хохберга'''<ref name="mbh1"> Benjamini, Yoav; Hochberg, Yosef (1995). [http://www.math.tau.ac.il/~ybenja/MyPapers/benjamini_hochberg1995.pdf Controlling the false discovery rate: a practical and powerful approach to multiple testing]. [http://en.wikipedia.org/wiki/Journal_of_the_Royal_Statistical_Society], Series B 57 (1): 289–300.</ref><ref name="mbh2"> Hochberg, Y.; Benjamini, Y. (1990). [http://onlinelibrary.wiley.com/doi/10.1002/sim.4780090710/abstract More powerful procedures for multiple significance testing]. Statistics in Medicine 9 (7): 811–818.</ref> — один из методов контроля ожидаемой доли ложных отклонений гипотез ([[FDR]]) который утверждает, что при определенных ограничениях на статистики гипотез <tex> T_i</tex> для достижения контроля FDR на уровне  <tex>\alpha</tex> достаточно, чтобы отвергались гипотезы <tex>H_i</tex>, для которых <tex>p_i \le \frac{i\alpha}{m}</tex>, где <tex>m</tex> — количество гипотез.
 == Определение ==
@@ Строка 20: / Строка 20: @@
 ===Ограничения===
-Статистики <tex>T_i</tex> независимы или выполняется следующее свойство (PRDS on <tex>T_i,\: i \in M_0</tex>):
+Статистики <tex>T_i</tex> независимы или выполняется следующее свойство (PRDS<ref name="prds"> Benjamini, Y., & Yekutieli, D. (2001). [http://projecteuclid.org/euclid.aos/1013699998 The control of the false discovery rate in multiple testing under dependency]. Annals of Statistics, 29(4), 1165–1188. </ref> on <tex>T_i,\: i \in M_0</tex>):
 ::<tex>\operator{P}(X\in D|T_i=x) </tex> не убывает по <tex>x\:\forall i\in M_0</tex>,
 где <tex>M_0</tex> - множество индексов верных гипотез, <tex>D</tex> - произвольное возрастающее множество, то есть, такое, что из <tex>x\in D</tex> и <tex>y \geq x</tex> следует <tex>y\in D</tex>
@@ Строка 91: / Строка 91: @@
 == Реализации ==
-* MATLAB: [http://www.mathworks.com/matlabcentral/fileexchange/27418-benjamini-hochbergyekutieli-procedure-for-controlling-false-discovery-rate Benjamini and Hochberg/Yekutieli Procedure for Controlling False Discovery Rate] - реализация на MathWorks.com
+* MATLAB: Benjamini and Hochberg/Yekutieli Procedure for Controlling False Discovery Rate <ref name="bhypcfdr"> http://www.mathworks.com/matlabcentral/fileexchange/27418-benjamini-hochbergyekutieli-procedure-for-controlling-false-discovery-rate</ref> - реализация на MathWorks.com
-* R: функция [http://www.inside-r.org/r-doc/stats/p.adjust <code>p.adjust</code>] (с параметром <code>method="BH"</code>) из стандартного пакета <code>stats</code> позволяет получить модифицированные уровни значимости с учетом поправки метода Бенджамини-Хохберга.
+* R: функция p.adjust<ref name="padj"> http://www.inside-r.org/r-doc/stats/p.adjust</ref> (с параметром <code>method="BH"</code>) из стандартного пакета <code>stats</code> позволяет получить модифицированные уровни значимости с учетом поправки метода Бенджамини-Хохберга.
 == Ссылки ==
+<references />
-* Benjamini, Yoav; Hochberg, Yosef (1995). [http://www.math.tau.ac.il/~ybenja/MyPapers/benjamini_hochberg1995.pdf|"Controlling the false discovery rate: a practical and powerful approach to multiple testing"]. [http://en.wikipedia.org/wiki/Journal_of_the_Royal_Statistical_Society,_Series_B|Journal of the Royal Statistical Society], Series B 57 (1): 289–300. MR 1325392.
-* Hochberg, Y.; Benjamini, Y. (1990). "More powerful procedures for multiple significance testing". Statistics in Medicine 9 (7): 811–818. [http://dx.doi.org/10.1002%2Fsim.4780090710 doi]. PMID [http://www.ncbi.nlm.nih.gov/pubmed/2218183 2218183].
 == См. также ==

Метод Бенджамини-Хохберга

Материал из MachineLearning.

Текущая версия

Содержание

Определение

Метод Бенджамини-Хохберга

Ограничения

Альтернативная постановка

Пример

Реализации

Ссылки

См. также

Просмотры

Личные инструменты

Навигация

Поиск

Инструменты