Запись результатов измерений. Точность расчетов

Результат измерения записывается в виде, определяемом формулой (18). Запись m = 0.876 ± 0.008 г означает, что в результате измерений для массы тела найдено значение 0.876 г со стандартной погрешностью 0.008 г. Подразумевается, что при вычислении стандартной погрешности учтены как случайные, так и систематические ошибки.

При записи погрешности следует округлять ее величину до двух значащих цифр, если первая из них является единицей, и до одной значащей цифры во всех остальных случаях. Так, правильно писать ±3; ±0.2; ±0.08; ±0.14 и не следует писать ±3.2; ±0.23; ±0.084. Не следует также округлять ±0.14 до ±0.1.

Поясним это правило. Уже говорилось, что погрешность эксперимента редко удается определить с точностью лучше 20%. Если вычисление стандартной ошибки приводит к 0.14, то округление 0.14 до 0.1 изменяет величину погрешности на целых 40%, в то время как округление до 0.3 числа 0.26 или 0.34 изменяет погрешность менее чем на 15%, т.е. несущественно.

При записи измеренного значения последней должна указываться цифра того десятичного разряда, который использован при указании погрешности. Один и тот же результат с указанием погрешности запишется в виде: 1.2 ± 0.2; 1.24 ± 0.03; 1.243 ± 0.012 и т.д. Последняя из указанных цифр, или даже две из них, как в последнем примере, оказывается сомнительной, а остальные - достоверными.

Сформулированное правило следует применять и в тех случаях, когда некоторые из цифр являются нулями. Если при измерении получен результат m = 0.900 + 0.004 г, то писать нули в конце числа 0.900 необходимо. Запись m = 0.9 означала бы, что о следующих значащих цифрах ничего не известно, в то время как измерения показали, что они равны нулю. Аналогичным образом, если масса тела равна 58.3 кг (с погрешностью в десятых долях килограмма), то не следует писать, что она равна 58 300 г, так как эта запись означала бы, что тело взвешено с точностью несколько граммов. Если результат взвешивания должен быть выражен в граммах, то в нашем случае нужно писать 5.83×10⁴ г.

Необходимая точность расчетов определяется тем, что расчет не должен вносить в измерения дополнительной погрешности. Обычно в промежуточных расчетах сохраняется один лишний знак, который в дальнейшем при записи окончательного результата будет отброшен.

Дата добавления: 2015-07-10