Исследование скорости сходимости параметров и гиперпараметров (пример)
Материал из MachineLearning.
Sintsova (Обсуждение | вклад)
(Новая: {{TOCright}} Для фиксированной регрессионной модели исследуется скорость сходимости параметров и гиперпа...)
К следующему изменению →
Версия 19:30, 15 декабря 2010
|
Для фиксированной регрессионной модели исследуется скорость сходимости параметров и гиперпараметров при ее настройке через двухуровневый байесовский вывод.
Постановка задачи
Рассмотрим следующую модель регрессии, описывающую связь между свободной и зависимой переменными:
Пусть случайная величина имеет нормальное распределение
.
Вектор параметров модели рассматривается как многомерная случайная величина. Пусть плотность распределения параметров имеет вид многомерного нормального распределения
с матрицей ковариации
.
Рассматриваются 3 типа моделей:
1) модель полиномиальной регрессии
2) модель
3) модель
3) модель
4) модель трехпараметрического распределения Вейбулла
5) модель с тригонометрическими функциями
Для каждой модели происходит настройка через двухуровневый байесовский вывод. Требуется проанализировать изменение параметров и гиперпараметров по мере настройки в каждой модели.
