Численные методы обучения по прецедентам (практика, В.В. Стрижов)/Рекомендуемые обозначения

Материал из MachineLearning.

(Различия между версиями)
Перейти к: навигация, поиск
(Новая: ==Список обозначений== Рекомендовано для курса "Численные методы обучения по прецедентам" {{tip|В процес...)
(→Список обозначений)
Строка 7: Строка 7:
*<tex>{\mathbb{R}}</tex> &nbsp;&nbsp;&#151;&nbsp;&nbsp; множество действительных чисел
*<tex>{\mathbb{R}}</tex> &nbsp;&nbsp;&#151;&nbsp;&nbsp; множество действительных чисел
*<tex>{\mathbb{N}}</tex> &nbsp;&nbsp;&#151;&nbsp;&nbsp;множество натуральных чисел
*<tex>{\mathbb{N}}</tex> &nbsp;&nbsp;&#151;&nbsp;&nbsp;множество натуральных чисел
-
*<tex>{X}</tex> &nbsp;&nbsp;&#151;&nbsp;&nbsp; матрица плана (<<объект-признак>>), <tex>X=[x_j^i]\in\mathbb{R}^{m\times n}</tex>
+
*<tex>{X}</tex> &nbsp;&nbsp;&#151;&nbsp;&nbsp; матрица плана (объект-признак), <tex>X=[x_j^i]\in\mathbb{R}^{m\times n}</tex>
*<tex>{X}</tex> &nbsp;&nbsp;&#151;&nbsp;&nbsp; множество признаков <tex>X=[\mathbf{x}_1,\ldots,\mathbf{x}_n]</tex>
*<tex>{X}</tex> &nbsp;&nbsp;&#151;&nbsp;&nbsp; множество признаков <tex>X=[\mathbf{x}_1,\ldots,\mathbf{x}_n]</tex>
*<tex>{X_{\mathcal{A}}}</tex> &nbsp;&nbsp;&#151;&nbsp;&nbsp; подмножество столбцов (признаков), заданное индексным множеством <tex>\mathcal{A}</tex>
*<tex>{X_{\mathcal{A}}}</tex> &nbsp;&nbsp;&#151;&nbsp;&nbsp; подмножество столбцов (признаков), заданное индексным множеством <tex>\mathcal{A}</tex>
Строка 35: Строка 35:
*<tex>{\mathcal{F}}</tex> &nbsp;&nbsp;&#151;&nbsp;&nbsp; множество индуктивно-порожденных регрессионных моделей, <tex>\mathcal{F}=\{f\}</tex>
*<tex>{\mathcal{F}}</tex> &nbsp;&nbsp;&#151;&nbsp;&nbsp; множество индуктивно-порожденных регрессионных моделей, <tex>\mathcal{F}=\{f\}</tex>
*<tex>{S}</tex> &nbsp;&nbsp;&#151;&nbsp;&nbsp; целевая функция (критерий качества), <tex>S=S(\mathbf{w})</tex>, полный вариант <tex>S=S(\mathbf{w}|D,f)</tex> для модели&nbsp;<tex>f</tex> на выборке&nbsp;<tex>D</tex>
*<tex>{S}</tex> &nbsp;&nbsp;&#151;&nbsp;&nbsp; целевая функция (критерий качества), <tex>S=S(\mathbf{w})</tex>, полный вариант <tex>S=S(\mathbf{w}|D,f)</tex> для модели&nbsp;<tex>f</tex> на выборке&nbsp;<tex>D</tex>
-
*<tex>{RSS}</tex> &nbsp;&nbsp;&#151;&nbsp;&nbsp; сумма квадратов невязок, <tex>RSS = \sum_{i=1}^{m}\bigl(y_i - f(\mathbf{w},\mathbf{x}_i)\bigr)</tex>
+
*<tex>{RSS}</tex> &nbsp;&nbsp;&#151;&nbsp;&nbsp; сумма квадратов невязок, <tex>RSS = \sum_{i=1}^{m}\bigl(y_i - f(\mathbf{w},\mathbf{x}_i)\bigr)^2</tex>
*<tex>{MSE}</tex> &nbsp;&nbsp;&#151;&nbsp;&nbsp; среднеквадратичная ошибка, <tex>MSE = \frac{RSS}{m}</tex>
*<tex>{MSE}</tex> &nbsp;&nbsp;&#151;&nbsp;&nbsp; среднеквадратичная ошибка, <tex>MSE = \frac{RSS}{m}</tex>
{{tip|Следует внимательно относиться к индексам. Например, число элементов вектора параметров как правило не совпадает с числом элементов свободной переменной в существенно-нелинейных регрессионных моделях.}}
{{tip|Следует внимательно относиться к индексам. Например, число элементов вектора параметров как правило не совпадает с числом элементов свободной переменной в существенно-нелинейных регрессионных моделях.}}

Версия 09:52, 10 декабря 2010

Список обозначений

Рекомендовано для курса "Численные методы обучения по прецедентам"


В процессе редактирования


Матрицы обозначены заглавными буквами, векторы — полужирными прописными буквами, множества (как правило) — каллиграфическими буквами.

  • {\mathbb{R}}   —   множество действительных чисел
  • {\mathbb{N}}   —  множество натуральных чисел
  • {X}   —   матрица плана (объект-признак), X=[x_j^i]\in\mathbb{R}^{m\times n}
  • {X}   —   множество признаков X=[\mathbf{x}_1,\ldots,\mathbf{x}_n]
  • {X_{\mathcal{A}}}   —   подмножество столбцов (признаков), заданное индексным множеством \mathcal{A}
  • {X^{\mathcal{B}}}   —   подмножество строк (объектов), заданное индексным множеством \mathcal{B}
  • {X}   —   множество значений свободной переменной, X=\{\mathbf{x}^i|\mathbf{x}\in\mathbb{R}^n, i=1,...,m\}
  • {\mathbf{x}_j}   —   реализации j-й свободной переменной, признак, j-й столбец матрицы X, \mathbf{x}=[x_1,\ldots,x_m]^T\in\mathbb{R}^m
  • {\mathbf{x}^i}   —   i-й объект выборки, \mathbf{x}^i\in\mathbb{R}^n
  • {\mathbf{x}}   —   многомерная свободная переменная, \mathbf{x}=[x_1,\ldots,x_n]\in\mathbb{R}^n
  • {\mathbf{y}   —   зависимая переменная, многомерная случайная величина \mathbf{y}=[y_1,\ldots,y_m]\in\mathbb{R}^m
  • {D}   —   выборка, множество пар \{(\mathbf{x}_i,y_i)|i=1,\ldots,m\}, также D=(X,\mathbf{y})
  • {\mathcal{I}}   —   множество индексов (объектов) элементов выборки
  • {\mathcal{B}}   —   множество индексов опорных объектов, \mathcal{I}\subseteq\mathcal{I}
  • {\mathcal{J}}   —   множество индексов свободных переменных (признаков)
  • {\mathcal{A}}   —   множество индексов активных признаков, \mathcal{A}\subseteq\mathcal{J}
  • {m}   —   число зависимых переменных, размерность пространства зависимых переменных, m=|\mathcal{I}|
  • {n}   —   число свободных переменных, размерность пространства свободной переменной, n=|\mathcal{J}|
  • {f}   —   регрессионная модель, f=f(\mathbf{w},\mathbf{x}), по определению f: (\mathbf{w},\mathbf{x})\mapsto y
  • {\mathbf{f}}   —   регрессионная модель (вектор-функция), \mathbf{f}=[f(\mathbf{w},\mathbf{x}^1),\ldots,f(\mathbf{w},\mathbf{x}^m)]^T
  • {\mathbf{w}}   —   вектор параметров \mathbf{w}=[w_1,\ldots,w_n]^T модели
  • {\mathbf{\varepsilon}}   —   многомерная случайная величина \mathbf{\varepsilon}=[\varepsilon_1,\ldots,\varepsilon_m]^T
  • {A}   —   ковариационная матрица многомерной случайной величины \mathbf{w}
  • {B}   —   ковариационная матрица многомерной случайной величины \mathbf{y}, вариант — \mathbf{\varepsilon}
  • {J}   —   матрица Якоби фукнции f с элементами J_{ij}=\left[ \frac{\partial f(\mathbf{w},\mathbf{x}_i)}{\partial w_j} \right]
  • {H}   —   матрица Гессе фукнции f с элементами H_{ij}=\left[ \frac{\partial^2 f(\mathbf{w},\mathbf{x}_i)}{\partial w_j w_k} \right]
  • {g}   —   порождающая функция, g=g(\mathbf{w},\cdot)
  • {\mathcal{G}}   —   множество порождающий функций, \mathcal{G}=\{g\}
  • {\mathcal{F}}   —   множество индуктивно-порожденных регрессионных моделей, \mathcal{F}=\{f\}
  • {S}   —   целевая функция (критерий качества), S=S(\mathbf{w}), полный вариант S=S(\mathbf{w}|D,f) для модели f на выборке D
  • {RSS}   —   сумма квадратов невязок, RSS = \sum_{i=1}^{m}\bigl(y_i - f(\mathbf{w},\mathbf{x}_i)\bigr)^2
  • {MSE}   —   среднеквадратичная ошибка, MSE = \frac{RSS}{m}


Следует внимательно относиться к индексам. Например, число элементов вектора параметров как правило не совпадает с числом элементов свободной переменной в существенно-нелинейных регрессионных моделях.


Источник — «http://machinelearning.ru/wiki/index.php?title=%D0%A7%D0%B8%D1%81%D0%BB%D0%B5%D0%BD%D0%BD%D1%8B%D0%B5_%D0%BC%D0%B5%D1%82%D0%BE%D0%B4%D1%8B_%D0%BE%D0%B1%D1%83%D1%87%D0%B5%D0%BD%D0%B8%D1%8F_%D0%BF%D0%BE_%D0%BF%D1%80%D0%B5%D1%86%D0%B5%D0%B4%D0%B5%D0%BD%D1%82%D0%B0%D0%BC_%28%D0%BF%D1%80%D0%B0%D0%BA%D1%82%D0%B8%D0%BA%D0%B0%2C_%D0%92.%D0%92._%D0%A1%D1%82%D1%80%D0%B8%D0%B6%D0%BE%D0%B2%29/%D0%A0%D0%B5%D0%BA%D0%BE%D0%BC%D0%B5%D0%BD%D0%B4%D1%83%D0%B5%D0%BC%D1%8B%D0%B5_%D0%BE%D0%B1%D0%BE%D0%B7%D0%BD%D0%B0%D1%87%D0%B5%D0%BD%D0%B8%D1%8F»
Личные инструменты