Правила округления численного результата.

В результате измерений, а также при проведении математических операций получаются приближенные значения искомых величин. При записи приближенного числа следует учитывать, что цифры, составляющие его, могут быть верными, сомнительными и неверными. Цифра верна, если абсолютная погрешность числа меньше одной единицы разряда этой цифры (слева от неё все цифры верные). Сомнительной называют цифру, стоящую справа от верной, а цифры справа сомнительной неверные. Их необходимо отбросить не только в результате, но и в исходных данных. Например, у известного достаточно точно числа π=3,14159…, но определенного с абсолютной ошибкой 0,002, число 4 будет верным, следующее за ним (число 1) – сомнительным, а остальные неверными, тогда правильная запись π=3,141±0,002.

Возможны варианты, когда в расчетах имеет место число с неопределенной абсолютной погрешностью. В этом случае погрешность определяется как половина последнего разряда вводимого в расчет числа. Например универсальная газовая постоянная R=8,31Дж/моль К должна иметь вид R=(8,310 ± 0,005) Дж/моль К.

Округления производятся лишь в окончательном результате, а все предварительные расчеты – с одним-двумя лишними порядками. Если разброс измеренных значений соизмерим с половиной последнего разряда, то в среднем арифметическом можно оставить число порядков тем же. При этом неверные числа отбрасываются без округления сомнительного числа. Например, при ряде чисел 3, 2, 1, 3, 2 среднее 2,2 нельзя округлить до 2, а в ряде 2.3, 2.2, 2.1, 2.3, 2.2 у среднего 2,22 можно оставить тот же порядок, записав его как 2.2 по причине того, что относительная погрешность первого ряда на порядок выше погрешности второго ряда и это очевидно даже без расчетов.

С учетом выше перечисленных правил при расчетах как прямых, так и косвенных измерений необходимо:

1. Выполнить предварительную запись окончательного результата измерения в виде при этом вынести за общую скобку одинаковые порядки среднего и погрешности, т.е. множитель вида 10^k, где k – целое число. Числа в скобках переписать в десятичном виде с использованием запятой, убрав тем самым оставшиеся порядковые множители.

2. Округлить число, соответствующее погрешности, оставив не более 2-х значащих цифр. При этом руководствоваться следующими правилами: при малых относительных погрешностях (δ <5%) - две, при больших – одна значащая цифра. Причем последняя цифра округляется обычно до нуля или пяти.

3. По правилам округления округлить в скобках число, соответствующее среднему значению: при этом учесть, что числовое значение результата измерений должно оканчиваться цифрой того же разряда, что и значение погрешности.

4. Окончательно записать с учетом выполненных округлений. Общий порядок и единицы измерения величины приводят за скобками. Указать значение относительной погрешности и доверительной вероятности.

 

Примеры округления и записи окончательных результатов

Предварительная запись	Стандартная форма записи
U = (528,112±152,4)^.10^1мВ	U = (5,3±1,5)^.10^3мВ
I = (0,418 ± 0,042) А	I = (0,42±0,04)А
R = (0,03643±0,00021)Ом	R = (36,43±0,21)^.10^-3Ом
f = (125,3±41)Гц	f = (0,13±0,04)^.10^3Гц
t = (8,72^.10^2±30)^.10^-1мс	t = (87±3)мс

Примеры

Пример 1. Обработка результатов прямых измерений.

Цель: определить высоту h, которая будет использована в следующем разделе для определения ускорения свободного падения. Данные измерений помещены в таблицу. Измерения проводили с помощью обычной матерчатой мерной ленты (рулетки с ценой деления С=0,01м) в условиях порывистого ветра, что привело к значительному разбросу результатов, как из-за растягивания ленты, так и вследствие влияния порывов ветра. Получившийся разброс хорошо заметен в таблице.

Номер измерения, i	Высота hi, м	Отклонение , м	, м ^2
	28,30	-0,61	0,3721
	29,38	0,47	0,2209
	28,60	-0,31	0,0961
	28,95	0,04	0,0016
	29,90	0,99	0,9801
	28,71	-0,2	0,04
	28,17	-0,74	0,5476
	29,50	0,59	0,3481
	28,66	-0,25	0,0625

Вычисления.

1.Вычисляем среднее значение высоты

2. Заполняем ячейки второй и третьей строк таблицы.

3. Вычисляем исправленную среднеквадратическую погрешность

(м).

4. Для заданной доверительной вероятности и количестве измерений по таблице определяем коэффициенты Стьюдента и Лапласа .

5. Вычисляем случайную составляющую погрешности:

6. Вычисляем абсолютную систематическую погрешность прибора. Для этого определяем среднеквадратическое отклонение прибора, которое равно половине цены деления

Находим систематическую ошибку прибора по формуле

=1 0,005=0,005 (м)

7. Вычисляем полную погрешность:

= (м).

В данном примере , поэтому без вычисления можно было считать, что .

8. Вычисляем относительную погрешность:

. Или .

После округления по правилам, результат измерения высоты записываем в виде:

, при γ =0,683.

Пример 2. Обработка результатов косвенных измерений.

Цель: измеряя время t падения тела с высоты h, определить ускорение свободного падения для широты Мариуполя.

Функциональная зависимость .

При прямых измерениях (см. Пример 1) получены:

высота падения ,

время падения .

Вычисляем арифметическое среднее ускорения свободного падения

м/с² .

Находим производные ; .

Прежде чем рассчитывать абсолютную погрешность косвенной величины произведем преобразования:

(Обратите внимание на окончательное преобразование:

.

Оно определяется средним арифметическим косвенного измерения и относительными ошибками величин, входящими в измерение.)

Производим вычисления:

м/с².

Записываем предварительный результат

g= (9,792±0,409) м/с²

Вычисляем относительную погрешность

Производим округление по правилам и записываем окончательный результат

g = (9,79±0,41) м/с², =4% при γ = 0,683.

Графики

Более наглядными, чем таблицы, являются графики зависимостей исследуемых физических величин. Графики дают визуальное представление о связи между величинами, что крайне важно при интерпретации полученных данных, так как графическая информация легко воспринимается, вызывает больше доверия, обладает значительной ёмкостью. На основе графика легче сделать вывод о соответствии теоретических представлений данным эксперимента. Ниже изложены рекомендации по построению графиков.

Выбор бумаги. Графики строят только на бумаге, имеющей координатную сетку. Это может быть обычная миллиметровка с линейным масштабом по осям или логарифмическая бумага.

Распределение осей. Графики, за редким исключением, строят в прямоугольной системе координат, где по горизонтальной оси (оси абсцисс) откладывают аргумент, независимую физическую величину, а по вертикальной оси (оси ординат) – функцию, зависимую физическую величину.

Выбор масштабов. Обычно график строят на основании таблицы экспериментальных данных, откуда легко установить интервалы, в которых изменяются аргумент и функция. Их наименьшее и наибольшее значения задают значения масштабов, откладываемых вдоль осей. Не следует стремиться поместить на осях точку (0,0), используемую как начало отсчета на математических графиках. Для экспериментальных графиков масштабы по обеим осям выбирают независимо друг от друга и, как правило, соотносят с погрешностью измерения аргумента и функции: желательно, чтобы цена наименьшего деления каждой шкалы примерно равнялась соответствующей погрешности.

Масштабная шкала должна легко читаться, а для этого необходимо выбрать удобную для восприятия цену деления шкалы: одной клетке должно соответствовать кратное 10 количество единиц откладываемой физической величины: 10ⁿ, 2·10ⁿ или 5·10ⁿ, где n – любое целое число, положительное или отрицательное. Так, числа 2; 0,5; 100; 0,02 – подходят, а числа 3; 7; 0,15 – не подходят для этой цели.

При необходимости масштаб по одной и той же оси для положительных и отрицательных значений откладываемой величины может быть выбран разным, но только в том случае, если эти значения отличаются не менее чем на порядок, т.е. в 10 раз и более. Примером может служить вольтамперная характеристика диода, когда прямой и обратный токи отличаются не менее, чем в тысячу раз: прямой ток составляет миллиамперы, обратный – микроамперы.

Нанесение шкал. Стрелки, задающие положительное направление, на координатных осях обычно не указывают, если выбрано принятое положительное направление осей: снизу – вверх и слева – направо. Оси подписывают: ось абсцисс – справа внизу, ось ординат – слева вверху. Против каждой оси указывают название или символ откладываемой по оси величины, а через запятую – единицы ее измерения, причем все единицы измерения приводят в русском написании в системе СИ. Числовой масштаб выбирают в виде равноотстоящих по значению «круглых чисел», например: 2; 4; 6; 8 … или 1,82; 1,84; 1,86 … Десятичный множитель масштаба, как в таблицах, относится к единицам измерения, например, вместо 1000; 2000; 3000 … получится 1; 2; 3 … с общим множителем 10³, указанным перед единицей измерения.

Масштабные риски проставляют по осям на одинаковом расстоянии друг от друга, чтобы они выходили на поле графика. По оси абсцисс цифры числового масштаба пишут под рисками, по оси ординат – слева от рисок.

Нанесение точек. Экспериментальные точки аккуратно наносят на поле графика карандашом. Их всегда проставляют так, чтобы они были отчетливо различимы. Если в одних осях строят различные зависимости, полученные, например, при измененных условиях эксперимента или на разных этапах работы, то точки таких зависимостей должны отличаться друг от друга. Их следует отмечать разными значками (квадратами, кружками, крестиками и т.п.) или наносить карандашами разного цвета.

Расчетные точки, полученные путем вычислений, размещают на поле графика равномерно. В отличие от экспериментальных, они должны слиться с теоретической кривой после ее построения. Расчетные точки, как и экспериментальные, наносят карандашом – при ошибке неверно поставленную точку легче стереть.

Выносные координатные линии при нанесении точек не используют, так как для этих целей существует сетка миллиметровки, а лишние линии засоряют график, делая его неудобным для восприятия и работы с ним.

Проведение кривых. Экспериментальные точки с помощью карандаша соединяют плавной кривой, чтобы они в среднем были одинаково расположены по обе стороны от проведенной кривой. Если известно математическое описание наблюдаемой зависимости, то теоретическая кривая проводится точно так же. Нет смысла стремиться провести кривую через каждую экспериментальную точку – ведь кривая является только интерпретацией результатов измерений, известных из эксперимента с погрешностью. По сути, есть только экспериментальные точки, а кривая – произвольное, не обязательно верное, домысливание эксперимента. Представим, что все экспериментальные точки соединены и на графике получилась ломаная линия. Она не имеет ничего общего с истинной физической зависимостью! Это следует из того, что форма полученной линии не будет воспроизводиться при повторных сериях измерений.

Напротив, теоретическую зависимость строят на графике таким образом, чтобы она плавно проходила по всем расчетным точкам. Это требование очевидно, так как теоретические значения координат точек могут быть вычислены сколь угодно точно.

Правильно построенная кривая должна заполнять все поле графика, что будет свидетельством правильного выбора масштабов по каждой из осей. Если же значительная часть поля оказывается незаполненной, то необходимо заново выбрать масштабы и перестроить зависимость.

Отображение погрешностей измерений на графике. Результаты измерений, на основании которых строят экспериментальные зависимости, содержат погрешности. Чтобы указать их значения на графике, используют два основных способа.

Первый упоминался при обсуждении вопроса выбора масштабов. Он состоит в выборе цены деления масштабной шкалы графика, которая должна равняться погрешности откладываемой по данной оси величины. В таком случае точность измерений не требует дополнительных пояснений.

Если достичь соответствия погрешности и цены деления не удается, используют второй способ, заключающийся в прямом отображении погрешностей на поле графика. А именно, вокруг проставленной экспериментальной точки строят два отрезка, параллельные осям абсцисс и ординат. В выбранном масштабе длина каждого отрезка должна равняться удвоенной погрешности величины, откладываемой по параллельной оси. Центр отрезка должен приходиться на экспериментальную точку. Вокруг точки образуются как бы ”усы”, задающие область возможных значений измеряемой величины. Погрешности становятся зримыми, хотя “усы” могут невольно засорить поле графика. Отметим, что указанный способ чаще всего применяют тогда, когда погрешности меняются от измерения к измерению.

Завершение работы. График нумеруют, ему дают название, кратко отражающее содержание построенной зависимости. Все графические символы, использованные при построении, поясняют в подписи к графику, которую располагают под графиком или на не занятой кривой части поля.

 

Литература

1. Гмурман В.Е. Теория вероятностей и математическая статистика. - Москва, «Высшая школа».-2000.-479с.

2. Гутер Р.С., Овчинский Б.В.Элементы численного анализа и математической обработки результатов опытов.-Москва, «Наука».-1970.-432с.

3. Кондрашев А.П., Шестопалов Е.В. Основы физического эксперимента и математическая обработка результатов измерений.-М.,Атомиздат,-1977,200с.

Оглавление стр

Введение…………………………………………………………………
Точечная оценка измеряемой величины…………………………
Интервальная оценка измеряемой величины…………………...
Вычисление абсолютной ошибки при прямых измерениях…..
Вычисления абсолютной ошибки при косвенных измерениях..
Статистическое распределение ошибок. Распределение Гаусса………
Подготовка и проведение измерений………………………………
Представление результатов измерений……………………………
Правила округления численного результата…………………….
Примеры…………………………………………………………………
Графики………………………………………………………………….
Литература………………………………………………………………