Метод простых итераций

Материал из MachineLearning.

(Различия между версиями)

Версия 10:52, 24 ноября 2008

Содержание

1 Постановка задачи
2 Метод простых итераций в общем виде
- 2.1 Сходимость метода простых итераций
3 Метод релаксации
- 3.1 Выбор параметра
4 Метод Вегстейна
5 Числовые примеры
6 Рекомендации программисту
7 Заключение
8 Ссылки
9 Список литературы

Постановка задачи

Пусть есть функция $y = f(x)$ .
Требуется найти корень этой функции, то есть $x$ при котором $f(x)=0$
Решение необходимо найти численно, то есть для реализации на ЭВМ. Для решения этой задачи предлагается использовать метод простых итераций.

Метод простых итераций в общем виде

Заменеим исходное уравнение $f(x)=0$ на эквивалентное $g(x)=x$ ,и будем строить итерации по правилу $x_{n+1} = g(x_n)$ . Таким образом метод простой итерации - это одношаговый итерационный процесс. Для того, что бы начать данный процесс, необходимо знать начальное приближение $x_0$ . Выясним условия сходимости метода.

Сходимость метода простых итераций

Метод сходится, если при $k \to \infty$ последовательность { $x_n$ } имеет предел.
Обозначим $U_r(a)$ окресность точки $a$ радиуса $r$ , то есть $U_r(a) = \{x:|x-a|<r\}$ .
Теорема. Если $g(x)$ липшиц-непрерывна с константой $q \in (0,1)$ на $U_r(a)$ , то есть выполняется

$|g(x'')-g(x')|<q|x''-x'|$ ,

при этом если также выполнено

$|g(a)-a|<(1-q)r$ ,то уравнение $x = g(x)$ имеет единственное решение на $U_r(a)$ и метод простой итерации сходится к решению при любом выборе начального приближения $x_1 \in U_r(a)$ .Так же справедлива оценка: $|x_k-x_*|<q^k|x_0-x_*|$ ,

где $x_*$ - точное решение.

Из оценки видно, что метод линеен. Пусть $g(x)$ непрерывно дифференцируема на $U_r(a)$ , тогда из теоремы вытекают следующие утверждения:
Следствие 1. Если $|g'(x)| \le q < 1$ для $x \in U_r(a)$ , выполнено $|g(a)-a|<(1-q)r$ , и $x_0 \in U_r(a)$ , тогда уравнение $x = g(x)$ имеет единственное решение на $U_r(a)$ и метод простой итерации сходится к решению.

Следствие 2. Если уравнение $x = g(x)$ имеет решение $x_*$ , $g(x)$ непрерывно дифференцируема на $U_r(x_*)$ и $|g'(x_*)|<1$ . Тогда существует $\eps > 0$ такое, что на $U_{\eps}(x_*)$ уравнение не имеет других решений и метод простой итерации сходится к решению при $x_0 \in U_{\eps}(x_*)$

Метод релаксации

Так как для сходимости метода очень важен выбор функции $g(x)$ , ее обычно берут вида $g(x)=x+s(x)f(x)$ . Где $s(x)$ не меняет знака на отрезке, на котором ищется корень функции.
Положим $s(x) = c = const$ и рассмотрим метод в этом случае.
Тогда получим метод 'релаксации':

$f(x_n) = \frac{x_{n+1}-x_{n}}{c}$ ,

для которого $g'(x) = 1+cf'(x)$ , и метод сходится при условии

$-2<cf'(x_*)<0$ ,

Пусть в некоторой окресности корня выполняются условия

$f'(x)<0, 0<m_1<|f'(x)|<M_1$ ,

Тогда метод релаксации сходится при $c \in (0,\frac{2}{M_1}).$

Выбор параметра

Оценим погрешность метода релаксации $z_k=x_k-x_*$

$f(x_*+z_n) = \frac{z_{n+1}-z_{n}}{c}$ ,

Применяя теорему о среднем получаем

$f'(x_*+{\theta}z_n)z_n = \frac{z_{n+1}-z_{n}}{c}$ ,

Отсюда

$|z_{n+1}|\le|1+cf'(x_*+{\theta}z_n)||z_n|\le max|1+cf'(x_*+oz_n)||z_n|$ ,

Метод Вегстейна

Числовые примеры

Заключение

Ссылки

Практикум ММП ВМК, 4й курс, осень 2008

Список литературы

А.А.Самарский, А.В.Гулин. Численные методы. Москва «Наука», 1989.
Н.Н.Калиткин. Численные методы. Москва «Наука», 1978.

Это незавершённая статья. Вы поможете проекту, исправив и дополнив её.

Источник — «http://machinelearning.ru/wiki/index.php?title=%D0%9C%D0%B5%D1%82%D0%BE%D0%B4_%D0%BF%D1%80%D0%BE%D1%81%D1%82%D1%8B%D1%85_%D0%B8%D1%82%D0%B5%D1%80%D0%B0%D1%86%D0%B8%D0%B9»

Категория: Незавершённые статьи

@@ Строка 32: / Строка 32: @@
 <center><tex>f(x_*+z_n) = \frac{z_{n+1}-z_{n}}{c}</tex>,</center>
 Применяя теорему о среднем получаем
-<center><tex>f'(x_*+oz_n)z_n = \frac{z_{n+1}-z_{n}}{c}</tex>,</center>
+<center><tex>f'(x_*+{\theta}z_n)z_n = \frac{z_{n+1}-z_{n}}{c}</tex>,</center>
 Отсюда
-<center><tex>|z_{n+1}|\le|1+cf'(x_*+oz_n)||z_n|\le max|1+cf'(x_*+oz_n)||z_n|</tex>,</center>
+<center><tex>|z_{n+1}|\le|1+cf'(x_*+{\theta}z_n)||z_n|\le max|1+cf'(x_*+oz_n)||z_n|</tex>,</center>
 ==Метод Вегстейна==
 == Числовые примеры ==