Запись и округление результата измерения

Погрешность результата рассчитывается по случайной выборке, и сама содержит погрешность. Новое измерение (новая выборка) даст новую погрешность, отличную от первой. Можно считать, что объективную информацию о величине погрешности несут лишь одна – две значащие цифры в ее численном выражении. Остальные значащие цифры можно считать случайными. Результат измерения также содержит лишь ограниченное число значащих цифр, несущих информацию о величине этого результата. В связи с этим числовые значения результата и погрешности должны быть округлены. При округлении используют следующие правила:

1. Предварительно результат и погрешность записывают в нормальном виде: общий показатель степени выносят за скобку или заменяют соответствующей приставкой: микро, милли, кило, мега и др., например,

 

x = 0,22 ± 0,03 м = (22 ± 3) ·10^–2 м = 22 ± 3 см.

 

Запрещены записи вида: x = 22·10^–2 ± 30·10^–3 м  или x = 0,22 ± 3·10^–2 м. Показатель 10¹ не выносится.

2. Если результат будет в дальнейшем использован в вычислениях, то, во избежание накопления погрешностей за счет округлений, погрешность округляют до двух значащих цифр при любой первой. При промежуточных вычислениях величин 2 S_x и 2 x S (из которых впоследствии будет извлекаться квадратный корень для нахождения S_x и x, S) следует сохранять не менее четырех значащих цифр.

3. Если результат измерения является окончательным и не будет использован в вычислениях других величин, то доверительную погрешность D_x округляют до первой значащей цифры, если она равна или больше 2, или до двух значащих цифр, если первая равна 1.

4. Среднее значение x округляют до того разряда, которым оканчивается округленная погрешность D_x:

 

Неокругленный результат	Округленный результат
1237,2 ±32	(12,4 ± 0,3)·10^2
(7,854 ± 0,0476) ·10–3	(7,85 ± 0,05) ·10^–3
83,2637 ± 0,0126	83,264 ± 0,013
2,48 ± 0,931	2,5 ± 0,9
2,48 ± 0,96	2,5 ± 0,9
2,48 ± 0,96	2,5 ± 1,0

 

Если погрешность округляется до двух значащих цифр, но вторая из них равна нулю, то этот нуль сохраняется, а в соответствующем ему разряде результата записывается получающаяся там значащая цифра:   x = 3,48 ± 0,10.

 

Библиографический список

1. ГОСТ Р 8.736-2011 Государственная система обеспечения единства измерений (ГСИ). Измерения прямые многократные. Методы обработки результатов измерений. Основные положения.

2. МИ 2083-90 Рекомендация. Государственная система обеспечения единства измерений. Измерения косвенные.

3. Метрология. Стандартизация. Сертификация: учебник для студентов вузов, обучающихся по направлению стандартизация, сертификация и метрология / под ред. В.М. Мишина. – М.: ЮНИТИ-ДАНА, 2009. – 495 с.

4. Гостева Ю.Л., Жулев В.И., Лукьянов Основы метрологии, стандартизации и измерительной техники: учебное пособие. – Рязань: РГРТУ, 2013. – 79 с.

5. Морозов В.В., Соботковский Б.Е., Шейнман И.Л. Обработка результатов эксперимента: учебное пособие. – С.-Петербург: Изд. СПбГЭТУ «ЛЭТИ», 2004. – 64 с.

6. Боридько С.И., Дементьев Н.В., Тихонов Б.Н. Метрология и электрорадиоизмерения в телекоммуникационных системах. – М.: Горячая линия -Телеком, 2007. – 374 с.

7. Бурдун Г.Д., Марков Б.Н. Основы метрологии. – М.: Издательство стандартов, 1972. – 312 с.

 

 

ОГЛАВЛЕНИЕ

1. Обработка результатов прямых измерений с многократными наблюдениями

1.1. Рекомендации по обработке результатов прямых измерений с многократными наблюдениями

1.2. Пример обработки результатов измерений с многократными наблюдениями

1.3. Задания по обработке результатов прямых измерений с многократными наблюдениями

 

2. Обработка результатов косвенных измерений

2.1. Рекомендации по обработке результатов косвенных измерений

2.2. Пример обработки результатов косвенных измерений

2.3. Задания по обработке косвенных измерений

 

3. Обработка результатов совокупных измерений

3.1. Рекомендации по обработке результатов совокупных измерений

3.2. Пример обработки результатов совокупных измерений

3.3. Задания по обработке совокупных измерений

 

4. Обработка результатов совместных измерений

4.1. Рекомендации по обработке совместных измерений

4.2. Примеры обработки результатов совместных измерений

4.3. Задания по обработке совместных измерений

 

Библиографический список