Участник:Tolstikhin/Articles
Материал из MachineLearning.
(Различия между версиями)
| Строка 1: | Строка 1: | ||
'''Concentration Inequalities''' | '''Concentration Inequalities''' | ||
#{{П:McDiarmid 2002 Concentration for Independent Permutations}} | #{{П:McDiarmid 2002 Concentration for Independent Permutations}} | ||
| - | :<small>Основная теорема (concentration inequality) доказывается с помощью модифицированного варианта теоремы Талаграна, связывающей вероятность получения вектора из некоторого подмножества векторного пространства A с матожиданием случайной величины, зависящей от расстояния Талаграна от случайного вектора до множества A.</small> | + | #:<small>Основная теорема (concentration inequality) доказывается с помощью модифицированного варианта теоремы Талаграна, связывающей вероятность получения вектора из некоторого подмножества векторного пространства A с матожиданием случайной величины, зависящей от расстояния Талаграна от случайного вектора до множества A.</small> |
| + | #{{П:Boucheron 2004 Concentration inequalities}} | ||
'''Rademacher Complexity''' | '''Rademacher Complexity''' | ||
# ''Boucheron S., Bousquet O., Lugosi G.'' [http://www.econ.upf.edu/simlugosi/esaimsurvey.pdf Theory of classification: A survey of some recent advances] // ESAIM: Probability and Statistics. — 2005. — no. 9. — Pp. 323–375. | # ''Boucheron S., Bousquet O., Lugosi G.'' [http://www.econ.upf.edu/simlugosi/esaimsurvey.pdf Theory of classification: A survey of some recent advances] // ESAIM: Probability and Statistics. — 2005. — no. 9. — Pp. 323–375. | ||
Версия 16:18, 4 марта 2011
Concentration Inequalities
- McDiarmid, C. Concentration for Independent Permutations // Comb. Probab. Comput.. — Cambridge University Press, 2002. — Vol. 11. — No. 2. — Pp. 163--178. (подробнее)
- Основная теорема (concentration inequality) доказывается с помощью модифицированного варианта теоремы Талаграна, связывающей вероятность получения вектора из некоторого подмножества векторного пространства A с матожиданием случайной величины, зависящей от расстояния Талаграна от случайного вектора до множества A.
- Boucheron S., Lugosi G., Bousquet O. Concentration inequalities // Advanced Lectures in Machine Learning. — Springer, 2004. — С. 208-240. (подробнее)
Rademacher Complexity
- Boucheron S., Bousquet O., Lugosi G. Theory of classification: A survey of some recent advances // ESAIM: Probability and Statistics. — 2005. — no. 9. — Pp. 323–375.
- (Bartlett)
- (Koltchinski)
- (Mendelson)
- (Petra Phillips)
- (El-Yaniv)
- ...
EM algorithm
- (Bishop - variational bayesian methods)
- Michael I. Jordan, Robert A. Jacobs Hierarchical Mixtures of Experts and the EM Algorithm // Neural Computation. — 1993. — Т. 6. — С. 181-214. (подробнее)
- ...
