Как правильно округлять погрешность в физике

Как правильно округлять погрешность в физике

Обработка результатов измерений в лабораториях проводятся на калькуляторах и ПК, и просто удивительно, как магически действует на многих студентов длинных ряд цифр после запятой. «Так точнее» – считают они. Однако легко видеть, например, что запись a = 2.8674523 ± 0.076 бессмысленна. При ошибке 0.076 последние пять цифр числа не означает ровно ничего.

Если мы допускаем ошибку в сотых долях, то тысячным, тем более десятитысячным долям веры нет. Грамотная запись результата была бы 2.87 ± 0.08. Всегда нужно производить необходимые округления, чтобы не было ложного впечатления о большей, чем это есть на самом деле, точности результатов.

Правила округления

1. Погрешность измерения округляют до первой значащей цифры, всегда увеличивая ее на единицу.
   Примеры:

8.27 ≈ 9	0.237 ≈ 0.3
0.0862 ≈ 0.09	0.00035 ≈ 0.0004
857.3 ≈ 900	43.5 ≈ 50

243.871 ± 0.026 ≈ 243.87 ± 0.03;
243.871 ± 2.6 ≈ 244 ± 3;
1053 ± 47 ≈ 1050 ± 50.

8.337 (округлить до десятых) ≈ 8.3;
833.438 (округлить до целых) ≈ 833;
0.27375 (округлить до сотых) ≈ 0.27.

8.3351 (округлить дл сотых) ≈ 8.34;
0.2510 (округлитьь до десятых) ≈ 0.3;
271.515 (округлить до целых) ≈ 272.

1. Значащими называют верные цифры числа, кроме нулей, стоящих впереди числа. Например, 0,00807 – в этом числе имеется три значащих цифры: 8, ноль между 8 и 7 и 7 ; первые три нуля незначащие.
   8.12 · 10 3 – в этом числе 3 значащих цифры.
2. Записи 15,2 и 15,200 различны. Запись 15,200 означает, что верны сотые и тысячные доли. В записи 15,2 – верны целые и десятые доли.
3. Результаты физических экспериментов записывают только значащими цифрами. Запятую ставят сразу после отличной от нуля цифры, а число умножают на десять в соответствующей степени. Нули, стоящие в начале или конце числа, как правило, не записывают. Например, числа 0,00435 и 234000 записывают так: 4,35&middot10 -3 и 2,34·10 5 . Подобная запись упрощает вычисления, особенно в случае формул, удобных для логарифмирования.

1.3.2. Правила округления значения погрешности и записи

Погрешность результата измерений позволяет определить те цифры результата, которые являются достоверными. При расчете величины погрешности, особенно с помощью калькуляторов, значение погрешности получается с большим числом знаков. Это создает впечатление о высокой точности измерений, что не соответствует действительности, так как исходными данными для расчета чаще всего являются нормируемые значения погрешности используемого СИ, которые указываются всего с одной или двумя значащими цифрами. Вследствие этого и в окончательном значении рассчитанной погрешности не следует удерживать более двух значащих цифр. В метрологии существуют следующие правила:

1. Погрешность результата измерения указывается двумя значащими цифрами, если первая из них 3 или меньше, и одной — если первая цифра есть 4 и более.

Значащими цифрами числа считаются все цифры от первой слева, не равной нулю, до последней справа цифры, при этом нули, записанные в виде множителя 10 n , не учитываются.

2. Результат измерения округляется до того же десятичного разряда, которым оканчивается округленное значение абсолютной погрешности. (Например, результат 85.6342, погрешность 0.01. Результат округляют до 85.63. Тот же результат при погрешности в пределах 0.012 следует округлить до 85.634).

3. Округление производится лишь в окончательном ответе, а все предварительные вычисления проводят с одним — двумя лишними знаками.

4. Округление следует выполнять сразу до желаемого числа значащих цифр, поэтапное округление приводит к ошибкам.

При округлении числовых значений погрешности и результата измерений необходимо руководствоваться следующими общими правилами округления.

Лишние цифры в целых числах заменяются нулями, а в десятичных дробях отбрасываются. (Например, число 165245 при сохранении четырех значащих цифр округляется до 165200, а число 165.245 — до 165.2).

Если десятичная дробь оканчивается нулями, они отбрасываются только до разряда, который соответствует разряду погрешности. (Например, результат измерений 235.200, погрешность 0.05. Результат округляют до 235.20. Тот же результат при погрешности в пределах 0.015 следует округлить до 235.200).

Если первая (считая слева направо) из заменяемых нулями или отбрасываемых цифр меньше 5, остающиеся цифры не изменяются.

Если первая из этих цифр равна 5, а за ней не следует никаких цифр, или идут нули, то, если последняя цифра в округляемом числе четная или нуль, она остается без изменения, если нечетная — увеличивается на единицу. (Например, число 1234.50 округляют до 1234, а число 8765.50 — до 8766).

Если первая из заменяемых нулями или отбрасываемых цифр больше 5 или равна 5, но за ней следует значащая цифра, то последняя остающаяся цифра увеличивается на единицу. (Например, число 6783.6 при сохранении четырех значащих цифр, округляют до 6784, а число 12.34520 — до 12.35).

Особенно внимательно следует относиться к записи результата измерения без указания погрешности, так как записи результата 2.4 10 3 В и 2400В не являются тождественными. Первая запись означает, что верны цифры тысяч и сотен вольт и истинное значение может находиться в интервале от 2.351кВ до 2.449кВ. Запись 2400 означает, что верны и единицы вольт, следовательно истинное значение напряжения может находиться в интервале от 2399.51В до 2400.49В.

Поэтому запись результата без указания погрешности крайне нежелательна.

Окончательно правила записи результата измерений можно сформулировать следующим образом.

1) При промежуточных вычислениях значения погрешности сохраняют три -четыре значащие цифры.

2) Окончательное значение погрешности и значение результата округляются в соответствии с изложенными выше правилами.

3) При однократных технических измерениях когда учитывается только основная погрешность СИ (СИ используются в нормальных условиях эксплуатации), результат записывается в виде:

или

.

(Например, результат измерения напряжения В, погрешность В. Результат может быть записан в виде:)

4) При однократных технических измерениях в рабочих условиях, когда по нормативным данным на СИ учитывают основную и дополнительные погрешности и результирующую погрешность определяют по формуле (1.35), результат записывают в виде:

5) При статистических измерениях, когда определяется только величина случайной погрешности нормально распределенных данных в виде доверительного интервала, результат записывается в соответствии с (1.31):

Если границы доверительного интервала несимметрична, то они указываются по отдельности.

6) При статистических измерениях, когда оцениваются границы неисключенных систематических погрешностей результата (НСП) и доверительный интервал случайной погрешности нормально распределенных данных, но результат используется как промежуточный для нахождения других величин (например, при статистических косвенных измерениях) или предполагается сопоставление его с другими результатами аналогичного измерительного эксперимента, результат записывается в соответствии с (1.39):

если , то это указывается дополнительно, как в п. 5.

Если границы НСП или границы доверительного интервала несимметричны, то они указываются по отдельности:

7) Если при измерении получены оценки погрешности при условиях, оговоренных в п. 6, но результат является окончательным и не предполагается в дальнейшем анализ его и сопоставление с другими результатами, то он записывается в соответствии с (1.41):

где определяется по формуле (1.40),

если же , это указывается дополнительно, как в п. 5.

8) При статистических измерениях, когда оцениваются границы НСП и доверительный интервал случайной погрешности, но при обработке результатов идентифицирован закон распределения, отличный от нормального, оценки значения результата измерения и доверительный интервал случайной погрешности находятся по соответствующим формулам [5], результат представляется в виде аналогичном представлению результата в п. 6, но дополнительно приводится информация о виде закона распределения опытных данных.

9) Если как в п. 8 обрабатываются результаты статических измерений и заранее известно, что закон распределения опытных данных отличается от нормального, но действий по идентификации вида реального закона по какой-либо причине не предпринимается, то результат может быть представлен в виде, аналогичном представлению результата в п. 6, но доверительный интервал случайной погрешности определяется в соответствии с рекомендациями ГОСТ 11.001-73 как при доверительной вероятности .

Запись результата может выглядеть, например, так:

(при ); ; ; .

Доверительная вероятность, при которой определяется суммарный НСП — , в этом случае может отличаться от .

И.В. Митин — Умеете ли Вы правильно округлять

PDF-файл из архива «И.В. Митин — Умеете ли Вы правильно округлять», который расположен в категории » «. Всё это находится в предмете «физика» из 1 семестр, которые можно найти в файловом архиве МГУ им. Ломоносова. Не смотря на прямую связь этого архива с МГУ им. Ломоносова, его также можно найти и в других разделах. .

Просмотр PDF-файла онлайн

Текст из PDF

Умеете ли Вы правильно округлять?Митин И.В.При проведении экспериментальных исследований результат измеренияфизической величины х обычно принято записывать в виде:(1)x  xˆ  x ,где x̂ — оценка истинного значения физической величины;x — оценка погрешности измерения (стандартного отклонения илидоверительного интервала).При расчетах с использованием современных технических средствкаждое из этих чисел в десятичной записи состоит из большого числа цифр,поэтому чрезвычайно важно провести корректное округление полученногорезультата. Ведь при данной процедуре вносится дополнительнаяпогрешность, называемая погрешностью округления, которая, понятно, недолжна превосходить остальных погрешностей. Но при этом важно такжеисключить в записи те цифры, которые являются избыточными и не несутникакой информации.Попробуем сначала на небольших примерах сформировать собственныепредставления об округлении на основе «соображений здравого смысла», апотом уже укажем, что об этом говорится в литературе. При этом попутнодадим некоторые важные определения.1. Пусть, например, в процессе измерений путем расчета по «умным»формулам (такие формулы можно найти в [1]) были получены следующиерезультаты:x̂ =21,497263;x =0,6294302.Подставим эти данные в формулу (1):х = 21,497263  0,6294302.Последовательное применение операций сложения и вычитанияпозволяет найти интервал изменения величины х от x1  xˆ  x доx2  xˆ  x :x1 =20,8678328;x2 =22,1266932(не будем сейчас обсуждать вопрос о том, можно ли достоверно утверждать,что истинное значение лежит именно в этом интервале, сейчас речь идеттолько о правилах округления). Укажем полученный интервал на числовойоси (рис. 1а).Сравнивая записи чисел, обозначающих граничные точки интервала x1 иx2 , видим, что в них на первом месте слева стоит одна и та же цифра «2»,показывающая число десятков. Следовательно, эта цифра, скорее всего,2верная. На втором месте в итоговом результате может стоять либо «0» либо«1», либо «2», цифра на этой позиции показывает число единиц. Здравыйсмысл подсказывает, что на третьем месте (первом после запятой) может ужестоять любая из цифр от «0» до «9». Он же (здравый смысл) указывает, чтоговорить и записывать какие-либо цифры на последующих местах абсолютнобессмысленно, вся основная информация об интервале содержится вначальных трех цифрах.Попробуем определить, сколько же цифр следует оставить послеокругления. Например, будем максималистами и скажем: раз повторяетсятолько первая цифра, а остальные же под сомнением, то поэтому отбросимих. Но тогда придется записать:x  20 ,что никуда не годится, ведь это число вообще не входит в интервал (рис. 1б).Значит, вторая цифра, хотя онa и изменяется, тоже нужна? Попробуемоставить ее. Как же тогда записать результат? Например, так: х изменяется от20 до 22, или с использованием знака «плюс-минус»:x  21  1 .Опять нехорошо! Ведь x1 =20,8678328, что гораздо ближе к 21, чем к 20.А x2 , напротив, больше, чем 22. Иными словами, получившийся в результатеокругления интервал сместился в сторону меньших значений по сравнению спервоначальным (рис. 1в), рассчитанным по «умным» формулам! Значит,нужна и третья цифра, хотя она, как мы отмечали, может быть любой.a19бвгд20,86783282021,49726322,12669322122212223202020,921,522,120,8721,5022,13Рис. 1. Построение интервалов при различных округленияхИтак, оставляем в x1 и x2 по три цифры:x1 =20,9;x2 =22,1.(здесь мы воспользовались правилом округления, которое будетсформулировано ниже, хотя большинству, надеюсь, оно знакомо). Тогда сиспользованием знака «плюс-минус» запишем:3x  21,5  0,6 .Вроде неплохо получилось, интервалы до и после округленияпрактически совпадают (рис. 1г).А, может, если добавить еще одну цифру, станет еще лучше? Добавляем(рис. 1д) и получаем:x1 =20,87;x2 =22,13.x  21,50  0,63 .Что изменилось? Интервал стал «точнее», но на сколько? На 0,03, чтосоставляет 5 (пять) процентов от «точного», рассчитанного по «умным»формулам, значения x . Но эти «умные» формулы, применяемые дляоценивания погрешностей, на самом деле являются приближенными.Например, чтобы оценить погрешность в серии прямых измерений,проведенных в одинаковых условиях, надо провести довольно многоизмерений, не меньше десятка. А если проводится всего 3 или даже 5измерений, то погрешность рассчитанной при этом погрешности (да, именнотак ее надо называть!) будет составлять, скорее всего, десятки процентов!Для косвенных измерений оценка погрешности находится через частныепроизводные, что также не гарантирует точного значения.Вывод: четвертая цифра в записи оценки x̂ не нужна, она не вноситновой существенной информации. А для оценки погрешности x тожедостаточно ограничиться одной цифрой и записать:x  0,6.Казалось, появилась ясность в процедуре округления. Но. Мырассмотрели один конкретный пример. А, может, в других случаях все будетне так? Попробуем чуть поэкспериментировать с числами.2. Например, чуть изменим x̂ (уменьшим на единицу), не изменяя x :x̂ =20,497263;x =0,6294302.Тогда изменится и интервал:x1 =19,8678328;x2 =21,1266932.Смотрите: не повторяется даже первая цифра! Катастрофа. Или все женет? Не повторяя всех слов, сказанных выше, просто запишем новую цепочкуполучающихся результатов:х=20 или х=10 (полный кошмар. );x  20  1 (кошмар чуть уменьшился, но остался кошмаром);x  20,5  0,6 (хорошо);x  20,50  0,63 (а стало ли лучше?).Есть ощущения, что все интуитивно понятые (но пока несформулированные!) правила остались на своих местах.43. Теперь изменим погрешность x (уменьшим на 0,3), не изменяя x̂ :x̂ =21,497263;x =0,3294302.Вновь строим цепочку:x1 =21,1678328;x2 =21,8266932.Ого, теперь уже первые две цифры совпадают! Поэтому, оставляя только их,получим:x  21  0 (идеальная точность!);x  21,5  0,3 (хорошо);x  21,50  0,33 (опять перебор).Оснований изменять правило не появилось.4. Еще уменьшим погрешность x (на 0,2), не изменяя x̂ :x̂ =21,497263;x =0,1294302.Снова строим цепочку:x1 =21,3678328;x2 =21,6266932.По-прежнему первые две цифры совпадают, поэтому:x  21  0 (вновь идеальная точность!);x  21,5  0,1 ;x  21,50  0,13 .Хм, а ведь теперь последняя запись уже не избыточна, она гораздоточнее воспроизводит интервал, заданный числами x1 и x2 , чем впредыдущем случае. Получается, что именно эта запись стала лучшей!Наверное, уже можно, проанализировав результаты, попытаться сделатьвыводы. При изменении оценки x̂ истинного значенияникакихсущественных (и несущественных!) изменений в округлении не происходит.А с изменением оценки погрешности x чуть по-другому. Сравним дваокругления:x =0,1294302  0,1;x =0,1294302  0,13.В первом случае при округлении до 0,1 значение изменяется(уменьшается) на 30 процентов. А это уже немало! И интервал, как мывидели, может «поехать». Во втором же случае относительная погрешностьокругления, вносимая в погрешность x , менее процента — все хорошо.Все приведенные выше рассуждения приводят к мысли, что округлениенадо начинать именно с погрешности x . Но перед тем, как сформулироватьправила округления, следует дать одно важное определение.Значащие цифры данного числа — все цифры от первой слева, не равнойнулю, до последней справа. При этом нули, следующие из множителя 10n (n –целое число), не учитывают.5Примеры:1) 0,2396 – 4 значащие цифры, первая цифра – 2;2) 0,00173 – 3 значащие цифры, первая цифра – 1;3) 30170 – 5 значащих цифр, первая цифра – 3, последний нуль – такжезначащая цифра;4) 301,7·102 – 4 значащие –цифры, первая цифра – 3, последняя – 7;5) 20000 – 5 значащих цифр, первая цифра – 2, все последующие нули –также значащие цифры;6) 20·103 – 2 значащие цифры, первая цифра – 2, вторая цифра – 0, нули,следующие из множителя 103 , не учитывают;7) 0,02·106 – одна и единственная значащая цифра – 2.Примеры показывают, что, хотя с точки зрения математики, записи подномерами 3 и 4 идентичны, обозначают одно и то же число, но количествозначащих цифр в них различно! То же самое можно сказать и про записи подномерами 5, 6 и 7. Этот факт чрезвычайно важен для корректной записирезультата, получаемого после округления.А теперь приступаем к формулировке правил округления.1) Округление следует начинать с погрешности, оставляя 1 (одну) или 2(две) значащие цифры. Если первая значащая цифра – единица илидвойка, то после округления оставляют две значащие цифры. Еслиже первая значащая цифра – тройка и более, то оставляют однузначащую цифру.Примеры.До округленияПосле округления0,172950,174,832950,972831,0(именно так, а не просто 1,чтобы подчеркнуть, чтопогрешность погрешностив первом знаке послезапятой)0,0062980,006 или 0,6·10-2 или 6·10-3384,530,4·103 или 4·102(но не 400 –ведь это 3значащие цифры)62) Далее округляется сама величина, причем ее последняя значащаяцифра должна находиться на той же позиции, что и последняязначащая цифра погрешности.Примеры.До округленияПосле округления3,4874±0,172953,49±0,17285,396±4,8329285±512,482±0,9728312,5±1,019,98281±0,813820,0±0,8(нули должны быть указаныобязательно – это значащиецифры)Видно, что если в погрешности присутствуют всего одна или двезначащие цифры, то в самом результате после округления количествозначащих цифр не меньше, чем в погрешности, причем последние значащиецифры в обоих числах стоят на одной и той же позиции.3) Если при округлении погрешности указан порядок, т.е. 10n, то такойже порядок должен быть и у самой величины, при этом оба числазаключаются в скобки, и множитель 10n указывается один раз.Примеры.До округления0,283984±0,00629872903±384,532374±48После округления0,284±0,006или (28,4±0,6)·10-2или (284±6)·10-3(72,9±0,4)·103или (729±4)·102(2,37±0,05)·103или (23,7±0,5)·102Как видно, использование записи с порядком 10n не являетсяоднозначным, ведь одно и то же число можно записать с одним и тем жеколичеством значащих цифр, но с разными порядками.Пример.0,004=0,04·10-1=0,4·10-2=4·10-3(во всех случаях одна значащая цифра).7Какую же форму записи предпочесть? Здесь нет однозначноготолкования, но можно вновь воспользоваться соображениями здравогосмысла.Вспомним, что запись с порядком используют обычно, чтобы избежатьнеобходимости указания большого числа нулей. Согласитесь, что запись3·107выглядит гораздо приятнее и понятнее, чем30000000.То же самое можно сказать и про записи0,6·10-5 и 0,000006.Однако нонсенсом выглядят записи0,2·10-1 вместо 0,02.или4·101 вместо 40.Кроме этого, вспомним, что достаточно часто используются приставки кило-,мега- или милли- и особенно модное нано-.

Правила округления. Обработка и представление результатов измерений. Процедура

ВЕРНУТЬСЯ К ПЕРЕЧНЮ ДОКУМЕНТОВ ❯
ПЕРЕЙТИ К ТРЕБОВАНИЯМ ГОСТ 17025 ❯
Документ создается сообществом лабораторий и открыт для дополнения и редактирования. Вы можете участвовать в корректировке и дополнении, а также направить нам свою версию документа для включения её в состав данного материала. Для этой цели используйте форму загрузки внизу страницы. Данный материал будет полезен для разработки документов системы менеджмента своей лаборатории.

• 1. Назначение и область применения
• 2. Нормативные ссылки
• 3. Определения
• 4. Процедура

1. Назначение и область применения

Процедура устанавливает единые требования к обработке и представлению результатов измерений, полученных в лаборатории (центре).

Представление результатов измерений в лабораторных журналах и в документах, выдаваемых лабораторией, осуществляется согласно методикам измерений и данной процедуре.

Требования настоящей процедуры распространяются на всех специалистов лаборатории (центра).

2. Нормативные ссылки

СТ СЭВ 543-77 «Числа. Правила записи и округления» (настоящий стандарт является обязательным в рамках Конвенции о применении стандартов СЭВ);

ГОСТ 8.736-2011 «Государственная система обеспечения единства измерений (ГСИ). Измерения прямые многократные. Методы обработки результатов измерений. Основные положения»;

МР 18.1.04-2005 «Система контроля качества результатов анализа проб объектов окружающей среды»;

ПМГ 96-2009 «Государственная система обеспечения единства измерений (ГСИ). Результаты и характеристики качества измерений. Формы представления» (правила по межгосударственной стандартизации введены в действие для добровольного применения в РФ в качестве рекомендаций по метрологии РФ).

3. Определения

Значащие цифры числа – это все цифры от первой слева, не равной нулю, до последней записанной цифры справа. При этом нули, следующие из множителя 10 n , не учитываются (согласно СТ СЭВ 543-77).

Примеры
1) Число 12,0 – имеет три значащие цифры;
2) Число 30 – имеет две значащие цифры;
3) Число 120 × 10 3 – имеет три значащие цифры;
4) Число 0,514 × 10 – имеет три значащие цифры;
5) Число 0,0056 × 10 – имеет две значащие цифры;
6) Число 0,704 – имеет три значащие цифры;
7) Число 68 – имеет две значащие цифры.

Таким образом, нули вначале числа всегда незначимы; нули в середине числа между ненулевыми цифрами значимы; нули в конце числа могут быть значимыми и незначимыми.

По количеству значащих цифр осуществляется запись приближенных чисел (согласно СТ СЭВ 543-77).

Пример
Следует различать числа 2,4 и 2,40.
Запись 2,4 означает, что верны только цифры целых и десятых; истинное значение числа может быть, например, 2,43 и 2,38.
Запись 2,40 означает, что верны и сотые доли числа; истинное число может быть, например, 2,403 и 2,398, но не 2,421 и не 2,382.

Округление числа – это отбрасывание значащих цифр справа до определенного разряда с возможным изменением цифры этого разряда (согласно СТ СЭВ 543-77).

В случае, если первая из отбрасываемых цифр (считая слева направо) меньше 5, то последняя сохраняемая цифра не меняется.

В случае, если первая из отбрасываемых цифр (считая слева направо) равна или больше 5, то последняя сохраняемая цифра увеличивается на единицу.

Округление следует выполнять сразу до желаемого числа значащих цифр, поэтапное округление может привести к ошибкам.

Примеры
1) Если число 12,364 требуется округлить до сотых долей, после округления получаем число 12,36; если число 12,364 требуется округлить до десятых долей, после округления получаем число 12,4.

2) Если число 0,703 требуется округлить до сотых долей, получаем число 0,70; если число 0,703 требуется округлить до десятых долей, после округления получаем число 0,7.

3) Если число 0,703 требуется округлить до двух значащих цифр, после округления получаем число 0,70; если число 0,703 требуется округлить до одной значащей цифры, после округления получаем число 0,7.

4) Если число 0,429 требуется округлить до двух значащих цифр, после округления получаем число 0,43; если число 0,429 требуется округлить до одной значащей цифры, после округления получаем число 0,4.

5) Если число 8,574 требуется округлить до двух значащих цифр, после округления получаем число 8,6; если число 8,574 требуется округлить до одной значащей цифры, после округления получаем число 9.

6) Поэтапное округление результата измерения 227,46 дает на первом этапе 227,5 и на втором этапе 228, в то время как правильный результат округления 227.

Окончательный результат – это результат измерения с погрешностью, который вносится испытателями в лабораторные журналы. Окончательный результат выдается лабораторией в протоколе испытаний.

Промежуточные результаты – это вся информация по анализу от показания приборов до окончательного результата (в том числе расчеты результатов единичных определений; расчет результата измерения как среднеарифметическое значение результатов единичных определений, полученных в условиях повторяемости; контроль повторяемости; расчет погрешности). Промежуточные результаты заносятся испытателями в лабораторные журналы, но в протоколах испытаний не выдаются.