Округлить сомнительные цифры числа, оставив верные знаки в узком смысле

Округлить сомнительные цифры числа, оставив верные знаки:
а) в узком смысле 
0,89569,

Определить предельные абсолютные и относительные погрешности результата.
Решение
а) Значащую цифру называют верной (в узком смысле), если абсолютная погрешность не превосходит половины единиц разряда, соответствующих этой цифре.
Проверим верные знаки:
0,8 >
0,09 >
0,005  >
0,0006 >
0,00009 <  – эта цифра не является верной.
То есть, верные знаки: 0,8956.
Округлим число до десятитысячных долей:
A1 = 0,8956, тогда возникает погрешность округления, которая приводит к увеличению значения абсолютной погрешности
 
Так как , то все цифры верны в узком смысле. Тогда число можно округлить: А = 0,8956 (в узком смысле).
Относительная погрешность приближенного числа:
 
Абсолютная погрешность приближенного числа:
 
 

Loading