Приближённые вычисления на калькуляторе

  • 1 мин чтения

Алгебра, 9 класс · С. М. Никольский, М. К. Потапов, Н. Н. Решетников, А. В. Шевкин

Калькулятор принимает и выдаёт числа не более чем из восьми цифр; лишние цифры результата он отбрасывает без округления: 35,272 · 62,116 = 2190,955552 ≈ 2190,9555 (с точностью до 10⁻⁴).

Если в калькулятор вводят приближённые значения (результаты измерений), погрешность результата оценивают по правилам: a ≈ 35,1, b ≈ 0,871 с относительными погрешностями не больше 0,01, поэтому ab ≈ 30,5721 ≈ 30,57 с относительной погрешностью не больше 0,02 + 0,001 = 0,021, a : b ≈ 40,298507 ≈ 40,30 — тоже с погрешностью не больше 0,021. Лишние «верные на вид» цифры на табло надо отбрасывать.

Проверь себя: тест по теме

Несколько заданий по этой теме из того же учебника. Каждый ответ проверяется сразу, а начать можно без регистрации.

  • Задания из этого учебника
  • Ответ проверяется сразу
  • Без регистрации
Начать тест