Называется абсолютной погрешностью представления числа X с помощью числа .

Максимально возможное значение , т.е. число , удовлетворяющее неравенству , называется максимальной или предельной абсолютной погрешностью (ошибкой).

Определение 3. Величина, равная

,

называется относительной ошибкой представления числа X числом .

Если , то число называется максимальной (предельной) относительной ошибкой.

Определение 4. Значащая цифра αj числа X, записанного в позиционной системе, называется верной в широком смысле, если выполняется условие Δ(X*) a j и верной в узком смысле, если выполняется условие Δ(X*) 0,5*a j.

Дата добавления: 2015-07-16