Чтобы показать две, три или четыре значащие цифры, запишите 1,2 × 10³, 1,20 × 10³ или 1,200 × 10³. Выбор зависит от того, до какого разряда вы вправе округлить измерение. Разберём это на примере массы в граммах.
Евгений Буянов - автор статьи, основатель проекта, преподаватель МГУ имени М.В. Ломоносова.
Человек, который прочтёт в таблице «масса 1200 г», не узнает, сохранили ли вы единицы граммов или округлили всё до сотен. При этом одна исходная масса, например 1200,4 г, действительно может дать 1200 г тремя способами. Посмотрим, что именно стоит перенести из журнала измерений в отчёт.
В научной записи число состоит из коэффициента и степени десяти. Для 1200 удобно взять множитель 10³, то есть тысячу. В коэффициенте остаётся 1,2. Если исходные данные позволяют показать ещё один или два разряда, в коэффициенте после двойки появятся нули. Именно по цифрам коэффициента читатель узнает, какой разряд вы сохранили.
Значащих цифр
Масса, г
Последний разряд, г
2
1,2 × 10³
100
3
1,20 × 10³
10
4
1,200 × 10³
1
Разберём среднюю строку. Коэффициент 1,20 записан до сотых. Умножение одной сотой на тысячу даёт десять граммов. Поэтому соседние значения, которые можно показать в таком формате вблизи 1200 г, составляют 1,19 × 10³ и 1,21 × 10³ г, то есть 1190 и 1210 г. В нижней строке шаг между соседними записями уже один грамм: вслед за 1,200 × 10³ идёт 1,201 × 10³.
Можно обойтись и без степени, если допускается изменить единицу столбца. Выберите килограммы и напишите соответственно 1,2 кг, 1,20 кг или 1,200 кг. Перевод точный: в килограмме ровно 1000 г. Число значащих цифр при таком переводе сохранится. Неоднозначность концевых нулей и такой способ её устранить на примере длины разобраны в руководстве NIST по записи величин.
Откуда брать число значащих цифр
Допустим, в условии практической работы преподаватель прямо просит результат с тремя значащими цифрами. Если в черновике есть показание 1200,4 г, сведений хватает. В ответ пойдёт 1,20 × 10³ г. Исходную строку 1200,4 г оставьте в журнале: она пригодится для других расчётов и для проверки округления.
Другой случай: вам прислали фотографию записи «1,2 кг». Перевод в граммы даёт 1200 г, но в исходнике явно оставлены только две цифры. Подходящая запись в отчёте получится такой: 1,2 × 10³ г. Если по условию нужны три, стоит запросить показание до округления. По двум цифрам в фотографии нельзя узнать, записали бы на более подробной шкале 1,17 кг, 1,20 кг или 1,23 кг. Каждое из этих чисел округляется до 1,2 кг.
Если перед вами уже только «1200» без пояснений, поищите в шапке таблицы единицу и указание «округлено до 10 г» или аналогичную запись в методике. При таком указании можно восстановить форму 1,20 × 10³ г. Когда осталась одна строка и больше никаких сведений, сохраните исходное «1200 г» с пометкой о неизвестном разряде округления. Выбрать между тремя вариантами по виду двух нулей невозможно.
Иногда 1200 оказывается вообще не измерением. Например, в расчёте расхода материала указано ровно 1200 деталей поштучного учёта. При точном подсчёте количество деталей не ограничивает значащие цифры массы, которую вы вычисляете. А у записи «около 1200 деталей», полученной по массе мешка, есть собственная неопределённость оценки. Для отчёта важно сначала понять, как получено само число.
Как из 1200,4 г получить нужную строку
В калькулятор значащих цифр введите исходное число 1200,4. Единицу «г» оставьте в заголовке своего столбца. Выбирайте последовательно 2, 3 и 4 значащие цифры. При двух калькулятор покажет 1,2 × 10³, при трёх 1,20 × 10³, при четырёх 1,200 × 10³. Все три обычные записи численно равны 1200. Для переноса в отчёт берите верхний ответ, где видно последнюю значащую цифру.
Для проверки возьмите второе показание, 1198,6 г. Если оставить четыре значащие цифры, получатся 1199 г, в научной записи 1,199 × 10³ г. При трёх цифрах округление идёт уже до десятков, поэтому получится 1,20 × 10³ г. При двух единицей последнего разряда становится сотня, а результат имеет вид 1,2 × 10³ г. Разница двух измерений, которую видно при записи до грамма, исчезла в более грубом столбце.
На рисунке ниже стоят две отметки, 1196 и 1204 г. До ближайшего десятка обе округляются к 1200 г. Если в отчёте сохранились только округлённые числа, восстановить по ним разницу в 8 г уже нельзя. Поэтому разности и средние удобнее считать по исходным данным, а нужное число цифр оставлять в конечном результате.
1196 и 1204 г находятся по разные стороны от 1200 г. При округлении до десятков эти два показания дают одну запись.
Если исходное число внесено как 1200, калькулятор принимает две цифры за явно заданные. Когда вы заранее знаете из протокола, что десятки значимы, вводите 1,20e3 или 1,20 × 10³. Буква E перед тройкой означает умножение на тысячу. Это удобно, когда на клавиатуре нет надстрочных цифр. Для четырёх значащих цифр исходная запись должна содержать ещё один обоснованный ноль: 1,200e3.
Если результат сопровождает неопределённость
Последний разряд говорит о масштабе округления. Например, при округлении до ближайших 10 г изменение исходного числа за счёт этого шага составит не больше 5 г. Но само взвешивание могло иметь и другой источник отклонения: показание менялось между повторами или у весов была своя калибровочная поправка. Поэтому из записи 1,20 × 10³ г нельзя вывести, что полная неопределённость измерения равна 5 г или 10 г.
Предположим, в обработанном протоколе средняя масса составила 1199,6 г, а стандартная неопределённость уже оценена и округлена до 3 г. Последний разряд у этих 3 г соответствует единицам. Тогда массу также округляют до единиц и в строке результата пишут m = 1200 г, стандартная неопределённость u = 3 г. Так читатель узнает, почему при числе 1200 оставлен разряд единиц и что означает сопровождающая величина. Калькулятор округления умеет оформить число, но для оценки самой неопределённости нужны данные опыта.
Если заполняете ту же строку в килограммах, переведите оба значения. Получится m = 1,200 кг, u = 0,003 кг. Согласование последнего разряда оценки и её неопределённости описано в пункте 7.2.6 руководства по выражению неопределённости измерений. Когда методика просит указать расширенную неопределённость, берите её значение и условия охвата из протокола. Одной буквы после знака ± для этого недостаточно.
Почему в таблице пропал конечный ноль
Наберите 1,200 кг в ячейке с числовым форматом «Общий». После ввода программа может показать 1,2. Значение осталось прежним, но сведения о последнем разряде перестали быть видны. Если весь столбец содержит массы в килограммах до грамма, задайте три знака после запятой и укажите «Масса, кг» в заголовке. Проверьте на второй строке: масса 1199 г должна отображаться как 1,199 кг.
Если в столбце собраны измерения с разной точностью, одно общее форматирование добавит нули даже туда, где в источнике было «1,2 кг». Удобно хранить отдельно исходную запись, числовое значение для расчёта и его согласованное представление для отчёта. При передаче таблицы в CSV прежний формат ячеек часто теряется. Откройте выгрузку как текст и проверьте на одной строке, действительно ли в ней осталось «1,200».
И последнее различие: смена формата ячейки может лишь скрыть часть разрядов на экране. Например, 1200,4 г при отображении без десятичных знаков видны как 1200 г, а в дальнейших формулах по-прежнему участвуют 1200,4. Откройте строку формул, если табличный итог расходится с ручным подсчётом. В отчёт перенесите согласованную запись с единицей, а в исходных измерениях сохраните все действительно полученные цифры.
Есть что добавить?
Напишите своё мнение, комментарий или предложение.