Участник:Tolstikhin/TODO
Материал из MachineLearning.
(Различия между версиями)
Строка 3: | Строка 3: | ||
#:Текст, в котором я попытался наглядно продемонстрировать применение метода Талаграна (неравенства Талаграна) для изучения [[Концентрация вероятностной меры|концентрации]] случайных величин вокруг их медиан. В качестве примера приводится задача о длине максимальной возрастающей подпоследовательности случайной последовательности. В заключение приводится оценка для функционала равномерного отклонения частот, полученная с помощью метода Талаграна. | #:Текст, в котором я попытался наглядно продемонстрировать применение метода Талаграна (неравенства Талаграна) для изучения [[Концентрация вероятностной меры|концентрации]] случайных величин вокруг их медиан. В качестве примера приводится задача о длине максимальной возрастающей подпоследовательности случайной последовательности. В заключение приводится оценка для функционала равномерного отклонения частот, полученная с помощью метода Талаграна. | ||
#:Полученная в последнем разделе текста оценка весьма завышена. Более аккуратный подход даёт следующее неравенство: <tex>Z(X\cup \bar{X})\leq c + \frac{L}{\ell k}f_c\bigl(S(c),X\cup\bar{X})\sqrt{n(\mu X, \mathbb{X})}</tex>. | #:Полученная в последнем разделе текста оценка весьма завышена. Более аккуратный подход даёт следующее неравенство: <tex>Z(X\cup \bar{X})\leq c + \frac{L}{\ell k}f_c\bigl(S(c),X\cup\bar{X})\sqrt{n(\mu X, \mathbb{X})}</tex>. | ||
+ | #<<Энтропийный подход>> Ledoux. | ||
+ | #:Скоро появится обзорный текст по примеру текста выше. | ||
'''Rademacher Complexity''' | '''Rademacher Complexity''' |
Версия 13:07, 19 апреля 2011
Concentration Inequalities
- Концентрация меры, неравенство Талаграна.
- Текст, в котором я попытался наглядно продемонстрировать применение метода Талаграна (неравенства Талаграна) для изучения концентрации случайных величин вокруг их медиан. В качестве примера приводится задача о длине максимальной возрастающей подпоследовательности случайной последовательности. В заключение приводится оценка для функционала равномерного отклонения частот, полученная с помощью метода Талаграна.
- Полученная в последнем разделе текста оценка весьма завышена. Более аккуратный подход даёт следующее неравенство: .
- <<Энтропийный подход>> Ledoux.
- Скоро появится обзорный текст по примеру текста выше.
Rademacher Complexity
- Оценка равномерного по классу алгоритмов отклонения частот с помощью Радемахеровского среднего.
- В тексте представлен способ оценивать равномерное по классу алгоритмов A отклонение частот с помощью Радемахеровского среднего (Rademacher avarage) класса A в слабой вероятностной аксиоматике. В тексте рассмотрен случай равных по объему обучающих и контрольных выборок ().
- Неравенство для математического ожидания равномерного отклонения и радемахеровского среднего.
- В тексте представлено утверждение, связывающее в слабой вероятностной аксиоматике математическое ожидание равномерного по классу алгоритмов А отклонения частот от вероятностей с Радемахеровским средним. Случай .