МЛР
Материал из MachineLearning.
(Различия между версиями)
(Новая: {{Задание|Касперский Иван|Константин Воронцов|{{дата|6|1|2009}}, а сейчас {{дата}}}} == Многомерная линейная ре...) |
|||
Строка 11: | Строка 11: | ||
:<tex>Q(\alpha)\ =\ \parallel (F\alpha\ -\ y)\parallel^2 \rightarrow \min_{\alpha \in \mathbb{R}^n}</tex>. | :<tex>Q(\alpha)\ =\ \parallel (F\alpha\ -\ y)\parallel^2 \rightarrow \min_{\alpha \in \mathbb{R}^n}</tex>. | ||
- | + | Найдём минимум <tex>Q(\alpha)</tex> по α: | |
- | :<tex>\frac{\ | + | :<tex>\frac{\partialQ (\alpha)}{\partial \alpha} = 2 F^T (F\alpha - y) = 0 \Rightarrow (F^TF)\alpha = F^Ty</tex> |
Версия 21:37, 4 января 2010
![]() | Данная статья является непроверенным учебным заданием.
До указанного срока статья не должна редактироваться другими участниками проекта MachineLearning.ru. По его окончании любой участник вправе исправить данную статью по своему усмотрению и удалить данное предупреждение, выводимое с помощью шаблона {{Задание}}. См. также методические указания по использованию Ресурса MachineLearning.ru в учебном процессе. |
Многомерная линейная регрессия
Имеется множество объектов и множество ответов
. Также имеется набор
вещественнозначных признаков
. Введём матричные обозначения: матрицу информации
, целевой вектор
и вектор параметров
:
Алгоритм:
.
Оценим качество его работы на выборке методом наименьших квадратов:
, или, в матричных обозначениях,
.
Найдём минимум по α: