Участник:Denis Kochedykov

Материал из MachineLearning.

(Различия между версиями)
Перейти к: навигация, поиск
 
(7 промежуточных версий не показаны.)
Строка 2: Строка 2:
|-
|-
|[[Изображение:KochedykovFace.jpg]]   
|[[Изображение:KochedykovFace.jpg]]   
-
|'''Кочедыков Денис Алексеевич''', Forecsys, ВЦ РАН(соискатель).
+
|'''Kochedykov Denis''', J.P.Morgan quantitative research, CC RAS (PhD candidate).
-
 
+
Scientific advisor: [[Участник:Vokov|Dr. Konstantin V. Vorontsov]].
-
Научный руководитель [[Участник:Vokov|Воронцов К.В.]].
+
<br>
<br>
-
;Области научных интересов: теория машинного обучения, оценивание обобщающей способности, комбинаторика, статистика.
+
;Scientific interests: statistical learning theory, generalization ability, combinatorics, statistics.
<br>
<br>
-
'''[[Служебная:EmailUser/Denis_Kochedykov|Написать письмо]]'''.
+
'''[[Служебная:EmailUser/Denis_Kochedykov|Send email]]'''.
|}
|}
-
== Публикации ==
+
== Pulications ==
-
=== Тезисы ===
+
-
# Кочедыков Д.А., Ивахненко А.А., Воронцов К.В. "Система кредитного скоринга на основе логических алгоритмов классификации" // Математические методы распознавания образов-12. — М.: МАКС Пресс, 2005. — С. 349–353.
+
-
# Кочедыков Д.А., Воронцов К.В. "О поиске оптимальных сочетаний управляющих параметров в логических алгоритмах классификации" //Тезисы докладов международной конференции «Интеллектуализация обработки информации» (ИОИ-2006) - Симферополь, 2006 - С. 117–119.
+
-
# Кочедыков Д.А., Ивахненко А.А., Воронцов К.В. "Применение логических алгоритмов классификации в задачах кредитного скоринга и управления риском кредитного портфеля банка" // Математические методы распознавания образов-13. — М.: МАКС Пресс, 2007. — С. 484–488.
+
-
# Кочедыков Д.А., Воронцов К.В. "К определению понятия информативности логических закономерностей в задачах классификации" //Труды 50-ой научной конференции МФТИ «Современные проблемы фундаментальных и прикладных наук» - 2008г - т.2 - с 100-102
+
-
# Кочедыков Д.А., "Комбинаторные оценки обобщающей способности методов обучения по прецедентам с расслоением по наблюдаемой частоте ошибок" //Труды 51-ой научной конференции МФТИ «Современные проблемы фундаментальных и прикладных наук» - 2009г
+
-
 
+
-
=== Статьи ===
+
-
 
+
-
== Структура кандидатской диссертации ==
+
-
# Введение
+
-
## Актуальность
+
-
## Новизна: учет эффекта сходства и расслоения в оценках обобщающей способности в комбинаторном подходе
+
-
## Апробация: ИОИ-2008, МФТИ-2007, МФТИ-2008, ММРО-2009(предстоит), семинары ВЦ РАН(предстоит)
+
-
## Содержание работы по главам и личный вклад.
+
-
# Обзорная часть
+
-
## Проблема обобщающей способности. Обзор современных результатов: Вапника, Лэнгфорда, МакАллистера, и т.д.
+
-
## Слабая вероятностная аксиоматика
+
-
## Постановка задачи диссертации ('''пока не до конца ясна''')
+
-
# Некоторые известные оценки, переведенные в слабую аксиоматику (содержательная глава №1)
+
-
## Вапник
+
-
## Лэнгфорд
+
-
## Силл
+
-
##'''Нужен ли здесь перевод еще каких то известных оценок в слабую аксиоматику?'''
+
-
# Эффект сходства алгоритмов при оценивании вероятности переобучения (содержательная глава №2. основная.)
+
-
## Связное семейство - верхняя оценка вероятности возникновения переобучения посредством неравенства типа Бонферрони
+
-
## Цепочка алгоритмов без расслоения
+
-
### Точное значение вероятности возникновения переобучения в цепочке
+
-
### Точное значение вероятности пеореобучения метода МЭР
+
-
## Семейство, состоящее из цепочек без расслоения
+
-
### Верхняя оценка вероятности переобучения метода МЭР
+
-
### Верхняя оценка вероятности возникновения переобучения
+
-
# Эксперименты
+
-
## Сравнение различных оценок
+
-
 
+
-
 
+
-
== Состояние работы на текущий момент ==
+
-
 
+
-
# В обзорной части
+
-
#* Частично есть описание постановки задачи.
+
-
#* Естественно, есть описание слабой вероятностной аксиоматики.
+
-
#* Отсутствует обзор современного состояния по теме.
+
-
# В главе про перевод известных оценок в комбинаторный вид
+
-
#* Естественно, есть стандартная оценка Вапника.
+
-
#* Из Лэнгфорда есть оценки Occam Razor, Shell, можно считать, что есть Microchoice, т.к. он переводится тривиально.
+
-
#* Можно считать, что есть оценка Силла для связных семейств - разобрался, как она устроена, теперь легко можно ее записать в слабой аксиоматике.
+
-
#* Других оценок нет.
+
-
# В главе про эффект сходства
+
-
#* Есть верхняя оценка вероятности возникновения переобучения в связном семействе неравенством Бонферрони.
+
-
#* Остального еще нет.
+
-
 
+
-
== Ближайший план работы ==
+
-
 
+
-
# Получить вероятность переобучения метода МЭР для худшего случая цепочки без расслоения. Это будет оценка с одновременным учетом и метода обучения и структуры сходства семейства.
+
-
# Получить вероятность ''возникновения'' переобучения в цепочке без расслоения. Это будет оценка с полным учетом структуры сходства семейства, но без учета метода обучения.
+
-
# Сравнить эти две последние оценки и оценку union bound(Вапник) - определить какой сравнительный эффект дают учет 1) структуры сходства и 2) метода обучения.
+
-
# Обычным union bound'ом получить для каждой из последних двух точных оценок ''верхнюю'' оценку для семейства состоящего из цепочек без расслоения. ('''здесь пока не совсем понятна практическая применимость - ведь слои в реальных семействах не обязательно представляют из себя цепочки'''). <br>Для использования union bound'а нужно знать профиль семейства - число алгоритмов в каждом слое(цепочке). Его можно оценить по наблюдаемому профилю семейства так, как это делается в observable shell Лэнгфорда.
+
 +
# Kochedykov D.A. (2011) “A Combinatorial Approach to Hypothesis Similarity in Generalization Bounds” (English+Russian), submitted.
 +
# Kochedykov D.A. (2010) “Combinatorial shell bounds for generalization ability” (Russian + English), “Pattern Recognition and Image Analysis”, 2010, 4.
 +
# Kochedykov D.A. (2009) “Connectivity structures in hypotheses’ space and generalization bounds”. Mathematical methods for pattern recognition 2009 (in Russian)
 +
# Kochedykov D.A (2008) “Combinatorial generalization bounds using the splitting of hypothesis spaces”. Contemporary problems of fundamental and applied sciences 2008 (in Russian)
 +
# Kochedykov D.A, Vorontsov K.V.(2007) “Information measures for rule induction algorithms”. Contemporary problems of fundamental and applied sciences 2007 (in Russian).
 +
# Kochedykov D.A, Ivakhnenko A.A, Vorontsov K.V.(2007) “Logical classification algorithms for risk management”. Mathematical methods for pattern recognition 2007 (in Russian).
 +
# Kochedykov D.A, Vorontsov K.V. (2006) “Meta-learning for rule induction algorithms”. Intelligent information processing 2006 (in Russian).
 +
# Kochedykov D.A, Ivakhnenko A.A, Vorontsov K.V. (2005) “Credit scoring system based on logical classification algorithms”. Mathematical methods for pattern recognition 2005 (in Russian).
-
== См. также ==
+
== See also ==
* [[Расслоение_и_сходство_алгоритмов_(виртуальный_семинар)]]
* [[Расслоение_и_сходство_алгоритмов_(виртуальный_семинар)]]
[[Категория:Кандидатские диссертации]]
[[Категория:Кандидатские диссертации]]

Текущая версия

Изображение:KochedykovFace.jpg    Kochedykov Denis, J.P.Morgan quantitative research, CC RAS (PhD candidate).

Scientific advisor: Dr. Konstantin V. Vorontsov.

Scientific interests
statistical learning theory, generalization ability, combinatorics, statistics.


Send email.

Pulications

  1. Kochedykov D.A. (2011) “A Combinatorial Approach to Hypothesis Similarity in Generalization Bounds” (English+Russian), submitted.
  2. Kochedykov D.A. (2010) “Combinatorial shell bounds for generalization ability” (Russian + English), “Pattern Recognition and Image Analysis”, 2010, 4.
  3. Kochedykov D.A. (2009) “Connectivity structures in hypotheses’ space and generalization bounds”. Mathematical methods for pattern recognition 2009 (in Russian)
  4. Kochedykov D.A (2008) “Combinatorial generalization bounds using the splitting of hypothesis spaces”. Contemporary problems of fundamental and applied sciences 2008 (in Russian)
  5. Kochedykov D.A, Vorontsov K.V.(2007) “Information measures for rule induction algorithms”. Contemporary problems of fundamental and applied sciences 2007 (in Russian).
  6. Kochedykov D.A, Ivakhnenko A.A, Vorontsov K.V.(2007) “Logical classification algorithms for risk management”. Mathematical methods for pattern recognition 2007 (in Russian).
  7. Kochedykov D.A, Vorontsov K.V. (2006) “Meta-learning for rule induction algorithms”. Intelligent information processing 2006 (in Russian).
  8. Kochedykov D.A, Ivakhnenko A.A, Vorontsov K.V. (2005) “Credit scoring system based on logical classification algorithms”. Mathematical methods for pattern recognition 2005 (in Russian).

See also

Личные инструменты