80. Верна ли формула ...

Один ученик, ознакомившись с формулой , решил проверить ее. Выписав из таблицы значения всех трех функций при а именно он разделил на , но получил не число 191,0, как ожидал, а число и заключил, что либо неверна формула, либо неверно по крайней мере одно из трех взятых табличных значений

Конечно, причиной расхождения является то обстоятельство, что все выписанные табличные значения, как и подавляющее большинство других табличных значений, являются числами приближенными, дающими лишь несколько первых значащих цифр соответствующих точных значений. При делении двух приближенных чисел частное получается, разумеется, не точно, а лишь приближенно. Правила, о которых была речь в указывают, сколько значащих цифр следует сохранять в таком частном. В настоящем случае делимое (1,0000) имеет пять значащих цифр, делитель (0,0052) только две, а потому и в частном мы должны сохранить лишь две первые значащие цифры. Получив частное округляем его так, чтобы оставались лишь две первые значащие цифры, и получаем число 190, которое совпадает в пределах первых двух значащих цифр с табличным значением равным 191,0.

Чтобы получить частное с четырьмя значащими цифрами, надо повысить точность делителя, взяв его не с двумя, как

было у нас, а по крайней мере тоже с четырьмя значащими цифрами (чтобы иолучить четыре вполне надежные значащие цифры частного, делимое и делитель лучше брать с одной «запасной» цифрой, т. е. не с четырьмя, а с пятью значащими цифрами). Итак, найдя (по более точной таблице), что делим 1,0000 на 0,0052360 и получаем в частном или, после округления до четырех значащих цифр, как раз табличное значение а именно 191,0.