Обработка результатов эксперимента

[M_GM]

2 часа назад, chemister2010 сказал:

 

23.8±0.6

Ну и где тут "Число значащих цифр результата обычно равно числу значащих цифр погрешности"??

В результате три значащих цифры, в погрешности - одна значащая цифра, если правильно понимать, что такое "значащая цифра"

На самом деле правило такое: 

Результаты измерения округляют с точностью «до погрешности», т.е. последняя значащая цифра в результате должна находиться в том же разряде, что и в погрешности.

У нас погрешность имеет значение в десятых (0,6), значит и результат округляем до десятых (23.8). Сколько при этом значащих цифр в результате значения не имеет, хоть десять: 123456789,5±0.6

А вот запись 6*10^-2±0.6 или 0,06±0.6 неверна, хотя число цифр (не считая нулей) вроде бы одинаково.

Но 6 стоит в разряде сотых, что меньше величины погрешности, значит этот разряд незначащий и должен быть отброшен. Правильная запись в этом случае = 0,1±0.6 

Изменено 5 Ноября, 2019 в 09:55 пользователем M_GM

[chemister2010]

Извините, неправильно выразился.

[BauVictoria]

05.11.2019 в 10:41, chemister2010 сказал:

 

23.8±0.6

Спасибо;)