Участник:Nkzh
Материал из MachineLearning.
Животовский Никита Кириллович
МФТИ, ФУПМ
Кафедра "Интеллектуальные системы"
Направление "Интеллектуальный анализ данных"
nikita.zhivotovskiy@phystech.edu
Содержание |
Отчеты о научно-исследовательской работе
Осень 2011, 9-й семестр
Оценка частоты тестовой ошибки с помощью скользящего контроля
На практике для оценивания обобщающей способности обучаемых алгоритмов часто используется оценка скользящего контроля с одним отделяемым объектом LOO (leave-one-out cross-validation). Несмотря на широкое применение, известные теоретические обоснования LOO пока либо сильно привязаны к конкретному методу обучения, либо представляют собой сильно завышенные оценки вероятности большого отклонения действительной вероятности ошибки от оценки LOO. В работе используется комбинаторный подход, с помощью которого удается значительно улучшить ранние результаты.
Публикации
Животовский Н.К. Комбинаторные оценки вероятности отклонения тестовой ошибки от ошибки скользящего контроля // , ММРО — 15, 2011. — С. 52-55 (опубликовано)
Весна 2012, 10-й семестр
Вопросы точности комбинаторных оценок вероятности переобучения
Одной из главных задач статистической теории обучения является оценивание обощающей способности обучающихся алгоритмов. Оценки, получаемые с помощью теории Вапника-Червоненкиса являются черезмерно завышенными и часто теряют свой практический смысл. Но с помощью комбинаторной теории переобучения удается не только улучшить известные оценки, но даже в некоторых частных случаях получить эффективно вычисляемые точные оценки. Целью работы является описание всех семейств алгоритмов, для которых комбинаторные оценки расслоения-связности точны.
Часть результатов изложена в 9-ом семестре на конференции МФТИ. В 10-ом семестре оформлена статья, посвященная подробному описанию искомых семейств. Результаты статьи также докладывались на семинаре, посвященном комбинаторному подходу к оценке вероятности переобучения.
Публикации
Животовский Н.К. Критерий точности комбинаторных оценок вероятности переобучения // МФТИ-54, том 2, 2011, С. 99-100 (опубликовано)
Осень 2012, 11-й семестр
Публикации
Животовский Н.К., Воронцов К.В. Критерий точности комбинаторных оценок вероятности переобучения // Интеллектуализация обработки информации. Доклады 9-й международной конференции, 2012.
Животовский Н.К. Комбинированный порождающий и разделяющий подходы в задачах классификации с малой выборкой // Машинное обучение и анализ данных, 2012, №4.
Магистерская диссертация: Концентрация меры в комбинаторных оценках обобщающей способности, научный руководитель: Воронцов К. В.
