Многомерная интерполяция и аппроксимация на основе теории случайных функций
Материал из MachineLearning.
(Различия между версиями)
(→Метод машинного обучения.) |
(→Метод машинного обучения.) |
||
| Строка 48: | Строка 48: | ||
*Коэффициенты <tex>t</tex> и <tex>n</tex> в “идеальном случае” должны быть приблизительно равны и устремлены в бесконечность. В реальных вычислениях в качестве этих коэффициентов можно использовать <tex>t\approx n \approx 10^5 \div 10^6</tex> при условии нормирования входных значений в диапазоне [-1,1] (они должны быть на несколько порядков больше диапазона изменения входных значений). С увеличением <tex>t</tex> и <tex>n</tex> разница от использования функции (104) вместо “идеальной функции” устремляется в область все более низких частот (при разложении искомой функции в спектр) измеряемыми <tex>\omega\approx\sqrt{t}\approx\sqrt{n}</tex> и все меньше влияет на результаты обучения в области параметрического пространства, где находится обучающая выборка. | *Коэффициенты <tex>t</tex> и <tex>n</tex> в “идеальном случае” должны быть приблизительно равны и устремлены в бесконечность. В реальных вычислениях в качестве этих коэффициентов можно использовать <tex>t\approx n \approx 10^5 \div 10^6</tex> при условии нормирования входных значений в диапазоне [-1,1] (они должны быть на несколько порядков больше диапазона изменения входных значений). С увеличением <tex>t</tex> и <tex>n</tex> разница от использования функции (104) вместо “идеальной функции” устремляется в область все более низких частот (при разложении искомой функции в спектр) измеряемыми <tex>\omega\approx\sqrt{t}\approx\sqrt{n}</tex> и все меньше влияет на результаты обучения в области параметрического пространства, где находится обучающая выборка. | ||
*Коэффициент <tex>C_K</tex>,назовем его “калибровочным”, связан со свойствами априорной случайной функции. Хотя непосредственно случайные функции в представленных выражениях (103) - (105) не используются, эти выражения выведены на их основе. (Если <tex>S_m(x)=0</tex> и обучение сводится к многомерной интерполяции, значение <tex>C_K</tex> можно взять произвольным, поскольку при решении системы (105) и вычислении функции (103) он сократится.) | *Коэффициент <tex>C_K</tex>,назовем его “калибровочным”, связан со свойствами априорной случайной функции. Хотя непосредственно случайные функции в представленных выражениях (103) - (105) не используются, эти выражения выведены на их основе. (Если <tex>S_m(x)=0</tex> и обучение сводится к многомерной интерполяции, значение <tex>C_K</tex> можно взять произвольным, поскольку при решении системы (105) и вычислении функции (103) он сократится.) | ||
| - | Процедура вычисления <tex>C_K</tex>(предлагаемый вариант): | + | Процедура вычисления <tex>C_K</tex>(предлагаемый вариант):<br\> |
| + | <p align="center">[[Изображение:Pic2.jpg]]<br\>Рис.10. Оценка желаемой дисперсии на единичном расстоянии.</p> | ||
| + | *Калибровка требуется, чтобы найти баланс между возможными погрешностями, неточностями и противоречиями в данных обучения и возможной нелинейностью самой функции, связывающей вход и выход. | ||
| + | *Предположим известно, что искомая | ||
== Демонстрация в среде Matlab. == | == Демонстрация в среде Matlab. == | ||
Версия 13:32, 28 июля 2009
Содержание |
Вступление
(в настоящий момент идет ввод и редактирование статьи, в силу того, что объем довольно значителен а опыта разметки еще нет (прошу прощения за это), сначала планирую выложить описание самого итогового метода, чтобы читатели смогли при желании с ним ознакомиться, затем примеры реализации функций и демонстрации в Matlab, а затем теоретическую часть с обоснованием)
- Данную статью условно можно поделить на две части.
- Первая часть посвящена использованию основ теории случайных функций применительно к задачам многомерной интерполяции и аппроксимации, а также машинному обучению и их теоретическому обоснованию. Цель теоретической части показать, что машинное обучение в его парадигме “обучения с учителем”, задачи многомерной интерполяции и аппроксимации, могут быть обобщены на основе теории случайных функций.
- Во второй части изложены практические выводы из положений первой части в виде законченного метода машинного обучения (метода многомерной интерполяции и аппроксимации). Если читателя интересуют сугубо практические вопросы, Вы можете перейти сразу к изложению метода.
- Предложенный метод позволяет получить точное решение задачи многомерной интерполяции или аппроксимации (“обучение с учителем”) гарантирующее оптимальность (при определенных минимальных допущениях, указанных в теоретической части). Метод достаточно прост и сводится к системе линейных уравнений, что может у читателя не знакомого с вопросом без изучения теоретической части вызвать подозрения в работоспособности или обобщающей способности метода. Но смею Вас уверить, что столь простая математическая конструкция в данном случае никак не ограничивает возможности. Если постараться объяснить кратко, то способности метода обеспечивает “специальная функция”, полученная в теоретической части, применение которой в системе линейных уравнений гарантированно обеспечивает оптимальное, с точки зрения аппарата случайных функций, решение. Использование данной функции позволяет сводить задачи многомерной интерполяции и аппроксимации или самые разнообразные задачи машинного обучения (с определенными допущениями) к решению системы линейных уравнений, гарантируя оптимальность полученного решения, отсутствие переобучения, осцилляций интерполянта и других нежелательных эффектов (если говорить более строго, то в реальных вычислениях используется лишь приближение теоретической “идеальной” функции в используемой части спектра, функция, которую можно записать алгебраически).
Подход к многомерной интерполяции и аппроксимации на основе теории случайных функций.
Введение.
Многомерная интерполяция.
Дисперсия случайной функции. Множество реализаций, удовлетворяющих узлам интерполяции.
Многомерная аппроксимация.
Выводы.
Метод машинного обучения.
Выпишем отдельно ключевые выражения, полученные в теоретической части в виде законченного метода.
- Пусть последовательность
представляет собой набор входных векторов для обучения. Пусть соответствующие им
представляют собой набор выходных значений. Если значения на выходе представляют собой не один, а набор значений (вектора), то представленные преобразования можно рассмотреть последовательно для каждого из выходных параметров.
- Метод позволяет определить функцию, связывающую значения на входе и на выходе (которая будет являться наиболее вероятной реализацией случайной функции, о чем шла речь в теоретической части). Метод также позволяет для произвольного входного значения определить среднеквадратическое отклонение ошибки, которую может дать полученная функция.
Функция, связывающая значения обучающей выборки на входе и на выходе будет определяться выражением (103):
(103)
Функцию из (103) определим как (104):
(104)
где - коэффициенты
Коэффициенты для (103) вычисляются из системы линейных уравнений (105):
(105)
где
- Значения
определяют априорно предполагаемый уровень шума (погрешности) в данных обучения и соответственно степень приближения, с которой функция (103) воспроизведет данные обучения.
- Если
, то это будет соответствовать частному случаю, когда погрешность или любая противоречивость в данных отсутствует и, искомая функция должна точно воспроизвести обучающую выборку. Т.е. задача обучения превращается в задачу многомерной интерполяции.
- Если
, то это будет соответствовать случаю, когда предполагается что в данных обучения одинаково на всей выборке содержится шум, имеющий нормальное распределение со среднеквадратическим отклонением равным
. Задачу обучения можно рассматривать как многомерную аппроксимацию.
- Если же уровень шума и его распределение в пространстве обучения неравномерно но известно, его наличие может быть задано в виде функции
Рассмотрим теперь коэффициенты в выражении (104).
- Коэффициенты
и
в “идеальном случае” должны быть приблизительно равны и устремлены в бесконечность. В реальных вычислениях в качестве этих коэффициентов можно использовать
при условии нормирования входных значений в диапазоне [-1,1] (они должны быть на несколько порядков больше диапазона изменения входных значений). С увеличением
и все меньше влияет на результаты обучения в области параметрического пространства, где находится обучающая выборка.
- Коэффициент
,назовем его “калибровочным”, связан со свойствами априорной случайной функции. Хотя непосредственно случайные функции в представленных выражениях (103) - (105) не используются, эти выражения выведены на их основе. (Если
Процедура вычисления (предлагаемый вариант):
Рис.10. Оценка желаемой дисперсии на единичном расстоянии.
- Калибровка требуется, чтобы найти баланс между возможными погрешностями, неточностями и противоречиями в данных обучения и возможной нелинейностью самой функции, связывающей вход и выход.
- Предположим известно, что искомая
