Сайт разработчиков Содержание Предыдущая страница Следующая страница

ОБРАБОТКА РЕЗУЛЬТАТОВ ИЗМЕРЕНИЙ

§ 4. Округление результатов

Обработка результатов измерений в лабораториях проводятся на калькуляторах и ПК, и просто удивительно, как магически действует на многих студентов длинных ряд цифр после запятой. «Так точнее» – считают они. Однако легко видеть, например, что запись a = 2.8674523 ± 0.076 бессмысленна. При ошибке 0.076 последние пять цифр числа не означает ровно ничего.

Если мы допускаем ошибку в сотых долях, то тысячным, тем более десятитысячным долям веры нет. Грамотная запись результата была бы 2.87 ± 0.08. Всегда нужно производить необходимые округления, чтобы не было ложного впечатления о большей, чем это есть на самом деле, точности результатов.

Правила округления
  1. Погрешность измерения округляют до первой значащей цифры, всегда увеличивая ее на единицу.
    Примеры:
    8.27 ≈ 9 0.237 ≈ 0.3
    0.0862 ≈ 0.090.00035 ≈ 0.0004
    857.3 ≈ 90043.5 ≈ 50
  2. Результаты измерения округляют с точностью «до погрешности», т.е. последняя значащая цифра в результате должна находиться в том же разряде, что и в погрешности.
    Примеры:

    243.871 ± 0.026 ≈ 243.87 ± 0.03;
    243.871 ± 2.6 ≈ 244 ± 3;
    1053 ± 47 ≈ 1050 ± 50.

  3. Округление результата измерения достигается простым отбрасыванием цифр, если первая из отбрасываемых цифр меньше 5.
    Примеры:

    8.337 (округлить до десятых) ≈ 8.3;
    833.438 (округлить до целых) ≈ 833;
    0.27375 (округлить до сотых) ≈ 0.27.

  4. Если первая из отбрасываемых цифр больше или равна 5 , (а за ней одна или несколько цифр отличны от нуля), то последняя из остающихся цифр увеличивается на единицу.
    Примеры:

    8.3351 (округлить дл сотых) ≈ 8.34;
    0.2510 (округлитьь до десятых) ≈ 0.3;
    271.515 (округлить до целых) ≈ 272.

  5. Если отбрасываемая цифра равна 5 , а за ней нет значащих цифр (или стоят одни нули), то последнюю оставляемую цифру увеличивают на единицу, когда она нечетная, и оставляют неизменной, когда она четная.
    Примеры:

    0.875 (округлить до сотых) ≈ 0.88;
    0.5450 (округлить до сотых) ≈ 0.54;
    275.500 (округлить до целых) ≈ 276;
    276.500 (округлить до целых) ≈ 276.

Примечание.

  1. Значащими называют верные цифры числа, кроме нулей, стоящих впереди числа. Например, 0,00807 – в этом числе имеется три значащих цифры: 8, ноль между 8 и 7 и 7 ; первые три нуля незначащие.
    8.12 · 103 – в этом числе 3 значащих цифры.
  2. Записи 15,2 и 15,200 различны. Запись 15,200 означает, что верны сотые и тысячные доли. В записи 15,2 – верны целые и десятые доли.
  3. Результаты физических экспериментов записывают только значащими цифрами. Запятую ставят сразу после отличной от нуля цифры, а число умножают на десять в соответствующей степени. Нули, стоящие в начале или конце числа, как правило, не записывают. Например, числа 0,00435 и 234000 записывают так: 4,35·10-3 и 2,34·105. Подобная запись упрощает вычисления, особенно в случае формул, удобных для логарифмирования.

Содержание Предыдущая страница Следующая страница