Ошибки вычислений

Материал из MachineLearning.

(Различия между версиями)

Версия 21:51, 19 октября 2008

Содержание

1 Введение
- 1.1 Постановка вопроса. Виды погрешностей
2 Виды мер точности
3 Предельные погрешности
4 Погрешности округлений при представлении чисел в компьютере
5 Погрешности арифметических операций
6 Погрешности вычисления функций
7 Числовые примеры
8 Список литературы
9 См. также

Введение

Постановка вопроса. Виды погрешностей

Процесс исследования исходного объекта методом математического моделирования и вычислительного эксперимента неизбежно носит приближенный характер, так как на каждом этапе вносятся погрешности. Построение математической модели связано с упрощением исходного явления, недостаточно точным заданием коэффициентов уравнения и других входных данных. По отношению к численному методу, реализующему данную математическую модель, указанные погрешности являются неустранимыми, поскольку они неизбежны в рамках данной модели.

При переходе от математической модели к численному методу возникают погрешности, называемые погрешностями метода. Они связаны с тем, что всякий численный метод воспроизводит исходную математическую модель приближенно. Наиболее типичными погрешностями метода являются погрешность дискретизации и погрешность округления.
При построении численного метода в качестве аналога исходной математической задачи обычно рассматривается её дискретная модель. Разность решений дискретизированной задачи и исходной называется погрешностью дискретизации. Обычно дискретная модель зависит от некоторого параметра (или их множества) дискретизации, при стремлении которого к нулю должна стремиться к нулю и погрешность дискретизации.
Дискретная модель представляет собой систему большого числа алгебраических уравнений. Для её решения используется тот или иной численный алгоритм. Входные данные этой системы, а именно коэффициенты и правые части, задаются в ЭВМ не точно, а с округлением. В процессе работы алгоритма погрешности округления обычно накапливаются, и в результате, решение, полученное на ЭВМ, будет отличаться от точного решения дискретизированной задачи. Результирующая погрешность называется погрешностью округления (вычислительной погрешностью). Величина этой погрешности определяется двумя факторами: точностью представления вещественных чисел в ЭВМ и чувствительностью данного алгоритма к погрешностям округления.

Итак, следует различать погрешности модели, дискретизации и округления. В вопросе преобладания какой-либо погрешности ответ неоднозначен. В общем случае нужно стремиться, чтобы все погрешности имели один и тот же порядок. Например, нецелесообразно пользоваться разностными схемами, имеющими точность 10⁻⁶, если коэффициенты исходных уравнений задаются с точностью 10⁻².

Виды мер точности

Мерой точности вычислений являются абсолютные и относительные погрешности. Абсолютная погрешность определяется формулой

$\Delta(\tilde a)=|\tilde a-a|,$

где $\tilde a$ – приближение к точному значению $a$ .
Относительная погрешность определяется формулой

$\delta(\tilde a)=\frac{|\tilde a-a|}{a}.$

Относительная погрешность часто выражается в процентах. Абсолютная и относительная погрешности тесно связаны с понятием верных значащих цифр. Значащими цифрами числа называют все цифры в его записи, начиная с первой ненулевой цифры слева. Например, число 0,000129 имеет три значащих цифры. Значащая цифра называется верной, если абсолютная погрешность числа не превышает половины веса разряда, соответствующего этой цифре. Например, $\tilde a=9348$ , абсолютная погрешность $\Delta(\tilde a)=15$ . Записывая число в виде

$9348=9\cdot10^3+3\cdot10^2+4\cdot10^1+8\cdot10^0,$

имеем $0,5\cdot10^1<\Delta(\tilde a)<0,5\cdot10^2$ , следовательно, число имеет две верных значащих цифр (9 и 3).

В общем случае абсолютная погрешность должна удовлетворять следующему неравенству:

$\Delta(\tilde a)<0,5\cdot10^{m-n+1} ,$

где $m$ - порядок (вес) старшей цифры, $n$ - количество верных значащих цифр.
В рассматриваемом примере $\Delta(\tilde a)\le0,5\cdot10^{3-2+1}\le0,5\cdot10^2=50$ .

Относительная погрешность связана с количеством верных цифр приближенного числа соотношением:

$\delta(\tilde a)\le\frac{\Delta(\tilde a)}{\alpha_m}10^m\le\frac{10^{m-n+1}}{\alpha_m10^m}\le\frac{1}{\alpha_m10^{n-1}},$

где $\alpha_m$ - старшая значащая цифра числа.
Для двоичного представления чисел имеем $\delta(\tilde a)\le2^{-n}$ .

Тот факт, что число $\tilde a$ является приближенным значением числа $a$ с абсолютной погрешностью $\Delta(\tilde a)$ , записывают в виде

$a=\tilde a\pm\Delta(\tilde a),$

причем числа $\tilde a$ и $\Delta(\tilde a)$ записываются с одинаковым количеством знаков после запятой, например, $a=2,347\pm0,002$ или $a=2,347\pm2\cdot10^{-3}$ .

Запись вида

$a=\tilde a(1\pm\delta(\tilde a))$

означает, что число $\tilde a$ является приближенным значение числа $a$ с относительной погрешностью $\delta(\tilde a)$ .

Так как точное решение задачи как правило неизвестно, то погрешности приходится оценивать через исходные данные и особенности алгоритма. Если оценка может быть вычислена до решения задачи, то она называется априорной. Если оценка вычисляется после получения приближенного решения задачи, то она называется апостериорной.

Очень часто степень точности решения задачи характеризуется некоторыми косвенными вспомогательными величинами. Например точность решения системы алгебраических уравнений

$AX=F$

характеризуется невязкой

$R=F-A\tilde X,$

где $\tilde X$ - приближенное решение системы.
Причём невязка достаточно сложным образом связана с погрешностью решения $\Delta(X)=\tilde X-X$ , причём если невязка мала, то погрешность может быть значительной.

Предельные погрешности

Погрешности округлений при представлении чисел в компьютере

Одним из основных источников вычислительных погрешностей является приближенное представление чисел в компьютере, обусловленное конечностью разрядной сетки (см. Международный стандарт представления чисел с плавающей точкой в ЭВМ). Число $a$ , не представимое в компьютере, подвергается округлению, т. е. заменяется близким числом $\tilde a$ , представимым в компьютере точно. Найдем границу относительной погрешности представления числа с плавающей точкой. Допустим, что применяется простейшее округление – отбрасывание всех разрядов числа, выходящих за пределы разрядной сетки. Система счисления – двоичная. Пусть надо записать число, представляющее бесконечную двоичную дробь

$a=\underbrace{\pm2^p}_{order}\underbrace{\left(\frac{a_1}{2}+\frac{a_2}{2^2}+\dots+\frac{a_t}{2^t}+\frac{a_{t+1}}{2^{t+1}}+\dots\right)}_{mantissa},$

где $a_j=\{0\\1$ , $\qquad (j=1,2,...)$ - цифры мантиссы.
Пусть под запись мантиссы отводится t двоичных разрядов. Отбрасывая лишние разряды, получим округлённое число

$\tilde a=\pm2^p\left(\frac{a_1}{2}+\frac{a_2}{2^2}+\dots+\frac{a_t}{2^t}\right).$

Абсолютная погрешность округления в этом случае равна

$a-\tilde a=\pm2^p\left(\frac{a_{t+1}}{2^{t+1}}+\frac{a_{t+2}}{2^{t+2}}+\dots\right).$

Наибольшая погрешность будет в случае $a_{t+1}=1, \qquad a_{t+2}=1,$ , тогда

$|a-\tilde a|\le\pm2^p\frac{1}{2^{t+1}}\underbrace{\left(1+\frac{1}{2}+\frac{1}{2^2}+\dots\right)}_{=2}=2^{p-t}.$

Т.к. $|M|\ge0,5$ , где $M$ - мантисса числа $a$ , то всегда $a_1=1$ . Тогда $|a|\ge2^p\cdot2^{-1}=2^{p-1}$ и относительная погрешность равна $\frac{|a-\tilde a|}{|a|}\le2^{-t+1}$ . Практически применяют более точные методы округления и погрешность представления чисел равна

( 1 )

$\frac{|a-\tilde a|}{|a|}\le2^{-t},$

т.е. точность представления чисел определяется разрядностью мантиссы $t$ .
Тогда приближенно представленное в компьютере число можно записать в виде $\tilde a=a(1\pm\epsilon)$ , где $|\epsilon|\le2^{-t}$ – "машинный эпсилон" – относительная погрешность представления чисел.

Погрешности арифметических операций

При вычислениях с плавающей точкой операция округления может потребоваться после выполнения любой из арифметических операций. Так умножение или деление двух чисел сводится к умножению или делению мантисс. Так как в общем случае количество разрядов мантисс произведений и частных больше допустимой разрядности мантиссы, то требуется округление мантиссы результатов. При сложении или вычитании чисел с плавающей точкой операнды должны быть предварительно приведены к одному порядку, что осуществляется сдвигом вправо мантиссы числа, имеющего меньший порядок, и увеличением в соответствующее число раз порядка этого числа. Сдвиг мантиссы вправо может привести к потере младших разрядов мантиссы, т.е. появляется погрешность округления.

Округленное в системе с плавающей точкой число, соответствующее точному числу $x$ , обозначается через $fl(x)$ (от англ. floating – плавающий). Выполнение каждой арифметической операции вносит относительную погрешность, не большую, чем погрешность представления чисел с плавающей точкой (1). Верна следующая запись:

$fl(a\box b)=a\box b(1\pm\epsilon),$

где $\box$ - любая из арифметических операций, $|\epsilon|\le2^{-t}$ .

Рассмотрим трансформированные погрешности арифметических операций. Арифметические операции проводятся над приближенными числами, ошибка арифметических операций не учитывается (эту ошибку легко учесть, прибавив ошибку округления соответствующей операции к вычисленной ошибке).

Рассмотрим сложение и вычитание приближенных чисел. Абсолютная погрешность алгебраической суммы нескольких приближенных чисел равна сумме абсолютных погрешностей слагаемых.
Если сумма точных чисел равна

$S=a_1+a_2+\dots+a_n,$

сумма приближенных чисел равна

$\tilde S=a_1+\Delta(a_1)+a_2+\Delta(a_2)+\dots+a_n+\Delta(a_n),$

где $\Delta(a_i), \qquad i=1,2,...,n$ - абсолютные погрешности представления чисел.
Тогда абсолютная погрешность суммы равна

$\Delta(S)=\Delta(a_1)+\Delta(a_2)+\dots+\Delta(a_n).$

Относительная погрешность суммы нескольких чисел равна

( 2 )

$\delta(S)=\frac{\Delta(S)}{S}=\frac{a_1}{S}\left(\frac{\Delta(a_1)}{a_1}\right)+\frac{a_2}{S}\left(\frac{\Delta(a_2)}{a_2}\right)+\dots=\frac{a_1\delta(a_1)+a_2\delta(a_2)+\dots}{S},$

где $\delta(a_i), \qquad i=1,2,...,n$ - относительные погрешности представления чисел.

Из (2) следует, что относительная погрешность суммы нескольких чисел одного и того же знака заключена между наименьшей и наибольшей из относительных погрешностей слагаемых:

$min \quad \delta(a_k)\le\delta(S)\le max \quad \delta(a_k), \qquad k=1,2,...,n, \quad a_k>0.$

При сложении чисел разного знака или вычитании чисел одного знака относительная погрешность может быть очень большой (если числа близки между собой). Так как даже при малых $\Delta(a_i)$ величина $S$ может быть очень малой. Поэтому вычислительные алгоритмы необходимо строить таким образом, чтобы избегать вычитания близких чисел.

Необходимо отметить, что погрешности вычислений зависят от порядка вычислений. Далее будет рассмотрен пример сложения трех чисел.

$S=x_1+x_2+x_3,$

$\tilde S_1=(x_1+x_2)(1+\delta_1),$

( 3 )

$\tilde S=(\tilde S_1+x_3)(1+\delta_2)=(x_1+x_2)(1+\delta_1)(1+\delta_2)+x_3(1+\delta_2).$

При другой последовательности действий погрешность будет другой:

$\tilde S_1=(x_3+x_2)(1+\delta_1),$

$\tilde S=(x_3+x_2)(1+\delta_1)(1+\delta_2)+x_1(1+\delta_2).$

Из (3) видно, что результат выполнения некоторого алгоритма, искаженный погрешностями округлений, совпадает с результатом выполнения того же алгоритма, но с неточными исходными данными. Т.е. можно применять обратный анализ: свести влияние погрешностей округления к возмущению исходных данных. Тогда вместо (3) будет следующая запись:

$\tilde S=\tilde x_1+\tilde x_2+\tilde x_3,$

где $\tilde x_1=x_1(1+\delta_1)(1+\delta_2), \quad \tilde x_2=x_2(1+\delta_1)(1+\delta_2), \quad \tilde x_3=x_3(1+\delta_2).$

При умножении и делении приближенных чисел складываются и вычитаются их относительные погрешности.

$S=a_1\cdot a_2,$

$\tilde S=a_1\cdot a_2(1+\delta(a_1))(1+\delta(a_2))$ ≅ $a_1\cdot a_2(1+\delta(a_1)+\delta(a_2)),$

с точностью величин второго порядка малости относительно $\delta$ .
Тогда $\delta(S)=\delta(a_1)+\delta(a_2)$ .

Если $S=\frac{a_1}{a_2}$ , то $\Delta(S)=\frac{a_1(1+\delta_1)}{a_2(1+\delta_2)}-\frac{a_1}{a_2}=\frac{a_1(\delta_1-\delta_2)}{a_2(1+\delta_2)}\approx \frac{a_1}{a_2}(\delta_1-\delta_2), \qquad \delta(S)$ ≅ $\delta_1-\delta_2.$

При большом числе n арифметических операций можно пользоваться приближенной статистической оценкой погрешности арифметических операций, учитывающей частичную компенсацию погрешностей разных знаков:

$\delta_\Sigma \approx \delta_{fl} \quad \sqrt{n},$

где $\delta_\Sigma$ – суммарная погрешность, $|\delta_{fl}|\le\epsilon$ – погрешность выполнения операций с плавающей точкой, $\epsilon$ – погрешность представления чисел с плавающей точкой.

Погрешности вычисления функций

Числовые примеры

Список литературы

А.А.Самарский, А.В.Гулин. Численные методы. Москва «Наука», 1989.
http://www.mgopu.ru/PVU/2.1/nummethods/Chapter1.htm
http://www.intuit.ru/department/calculate/calcmathbase/1/4.html

См. также

Практикум ММП ВМК, 4й курс, осень 2008

Это незавершённая статья. Вы поможете проекту, исправив и дополнив её.

Источник — «http://machinelearning.ru/wiki/index.php?title=%D0%9E%D1%88%D0%B8%D0%B1%D0%BA%D0%B8_%D0%B2%D1%8B%D1%87%D0%B8%D1%81%D0%BB%D0%B5%D0%BD%D0%B8%D0%B9»

Категории: Незавершённые статьи | Учебные задачи

@@ Строка 138: / Строка 138: @@
 == Погрешности вычисления функций ==
 == Числовые примеры ==
-== Заключение ==
 == Список литературы ==
 * ''А.А.Самарский, А.В.Гулин.''&nbsp; Численные методы. Москва «Наука», 1989.