Материал из MachineLearning.
-
Список обозначений
Рекомендовано для курса "Численные методы обучения по прецедентам"
| В процессе редактирования
|
Матрицы обозначены заглавными буквами, векторы — полужирными прописными буквами, множества (как правило) — каллиграфическими буквами.
— множество действительных чисел
— множество натуральных чисел
— матрица плана (объект-признак), ![X=[x_j^i]\in\mathbb{R}^{m\times n}](../mimetex/?X=[x_j^i]\in\mathbb{R}^{m\times n})
- — множество признаков
![X=[\mathbf{x}_1,\ldots,\mathbf{x}_n]](../mimetex/?X=[\mathbf{x}_1,\ldots,\mathbf{x}_n])
— подмножество столбцов (признаков), заданное индексным множеством 
— подмножество строк (объектов), заданное индексным множеством 
- — множество значений свободной переменной,
— реализации 
-й свободной переменной, признак, -й столбец матрицы 
, ![\mathbf{x}=[x_1,\ldots,x_m]^T\in\mathbb{R}^m](../mimetex/?\mathbf{x}=[x_1,\ldots,x_m]^T\in\mathbb{R}^m)
— 
-й объект выборки, 
— многомерная свободная переменная, ![\mathbf{x}=[x_1,\ldots,x_n]\in\mathbb{R}^n](../mimetex/?\mathbf{x}=[x_1,\ldots,x_n]\in\mathbb{R}^n)
— зависимая переменная, многомерная случайная величина ![\mathbf{y}=[y_1,\ldots,y_m]\in\mathbb{R}^m](../mimetex/?\mathbf{y}=[y_1,\ldots,y_m]\in\mathbb{R}^m)
— выборка, множество пар |i=1,\ldots,m\})
, также )
— множество индексов (объектов) элементов выборки
— множество индексов опорных объектов, 
— множество индексов свободных переменных (признаков)
— множество индексов активных признаков, 
— число зависимых переменных, размерность пространства зависимых переменных, 
— число свободных переменных, размерность пространства свободной переменной, 
— регрессионная модель, )
, по определению \mapsto y)
— регрессионная модель (вектор-функция), ![\mathbf{f}=[f(\mathbf{w},\mathbf{x}^1),\ldots,f(\mathbf{w},\mathbf{x}^m)]^T](../mimetex/?\mathbf{f}=[f(\mathbf{w},\mathbf{x}^1),\ldots,f(\mathbf{w},\mathbf{x}^m)]^T)
— вектор параметров ![\mathbf{w}=[w_1,\ldots,w_n]^T](../mimetex/?\mathbf{w}=[w_1,\ldots,w_n]^T)
модели
— многомерная случайная величина ![\mathbf{\varepsilon}=[\varepsilon_1,\ldots,\varepsilon_m]^T](../mimetex/?\mathbf{\varepsilon}=[\varepsilon_1,\ldots,\varepsilon_m]^T)
— ковариационная матрица многомерной случайной величины 
— ковариационная матрица многомерной случайной величины 
, вариант — 
— матрица Якоби фукнции 
с элементами ![J_{ij}=\left[ \frac{\partial f(\mathbf{w},\mathbf{x}_i)}{\partial w_j} \right]](../mimetex/?J_{ij}=\left[ \frac{\partial f(\mathbf{w},\mathbf{x}_i)}{\partial w_j} \right])
— матрица Гессе фукнции с элементами ![H_{ij}=\left[ \frac{\partial^2 f(\mathbf{w},\mathbf{x}_i)}{\partial w_j w_k} \right]](../mimetex/?H_{ij}=\left[ \frac{\partial^2 f(\mathbf{w},\mathbf{x}_i)}{\partial w_j w_k} \right])
— порождающая функция, )
— множество порождающий функций, 
— множество индуктивно-порожденных регрессионных моделей, 
— целевая функция (критерий качества), )
, полный вариант )
для модели на выборке 
— сумма квадратов невязок, \bigr)^2)
— среднеквадратичная ошибка, 
|
| Следует внимательно относиться к индексам. Например, число элементов вектора параметров как правило не совпадает с числом элементов свободной переменной в существенно-нелинейных регрессионных моделях.
|
