Участник:Tolstikhin/Publications

Материал из MachineLearning.

Публикации

1. Толстихин И.О. Точная оценка вероятности переобучения для одного специального семейства алгоритмов. // Междунар. конф. «Ломоносов 2010», Москва, 2010. — С.98-99.
2. Толстихин И.О. Вероятность переобучения плотных и разреженных семейств алгоритмов. // Междунар. конф. «Интеллектуализация обработки информации 2010», г. Пафос, Кипр, 2010. — С.83-86. (PDF)
3. Толстихин И.О. Локализация оценок избыточного риска в комбинаторной теории переобучения. // Междунар. конф. «Интеллектуализация обработки информации 2012», г. Будва, Черногория, 2012. — С.54-57. (PDF)

   Erratum: в первом неравенстве после (5) (после слов «… для любого t>0 выполнено:») знаки неравенства перепутаны местами.

Презентации

1. Вероятность переобучения плотных и разреженных семейств алгоритмов. (PDF, 800Кб)

   Конференция ИОИ-2010.

2. Локализация оценок избыточного риска в комбинаторной теории переобучения. (PDF, 480Кб)

   Конференция ИОИ-2012.

3. PAC-Bayes оценки и их применение в машинном обучении. (PDF, 1.7Мб)

   Октябрь 2012, доклад на спецсеминаре "Байесовские методы машинного обучения"

Лекции

1. Локальные sup-нормы и неравенство Талаграна в SLT.

   Серия из трех лекций, в которых я постарался 1) коротко резюмировать классические подходы к оценке избыточного риска и обобщающей способности, наглядно продемонстрировав их слабые места, 2) перечислить некоторые сведения из теории концентрации меры, необходимые в описании альтернативного подхода и 3) описать развитый в середине 2000-х подход, позволяющий получать оценки избыточного риска, в большинстве случаев имеющие оптимальный порядок малости. Keywords: эмпирические процессы, sup-нормы, неравенство Талаграна, локальная и глобальная радемахеровская сложность, симметризация.