スポンサー広告
誤差
データの測定値には、必ず誤差（ごさ）が含まれる。
例えば、ものの重さを測定しようとすれば、どれだけ正確に測定すればよいのだろうか。
１ｇ単位だろうか、０．１ｇ単位だろうか、それとも０．０１ｇ単位だろうか。
正確さにこだわりすぎると、そもそも測定ができなくなり、データが集まらなくなってしまう。
そこで、測定値を求めるときは、人間同士で約束をして、誤差が含まれた測定値を扱う。
小数点第１位を４捨五入すると約束して、測定値が１ならば、誤差の範囲はいくらになるだろうか。
\begin{xy}
{(0,0) \ar @{-}(60,0)},
{(10,3) \ar @{-}(10,-8)},
{(30,3) \ar @{-}(30,0)},
{(50,3) \ar @{-}(50,-8)},
{(10,-8) \ar @{<-}(18,-8)},
{(42,-8) \ar @{->}(50,-8)},
(10,6)*{0.5}="O",
(30,6)*{1}="O",
(50,6)*{1.5}="O",
(30,12)*{測定値}="O",
(30,-8)*{誤差の範囲}="O",
\end{xy}
実際の数値は０．５以上から１．５未満の可能性がある。
そこで、小数点第１位を４捨五入すると約束すると、測定値が１となり、誤差の範囲は０．５となる。
＜例題 \( \Large 1 \) ＞
小数点第２位を４捨五入すると約束して、測定値が１.１ならば、誤差の範囲はいくらになるだろうか。
有効数字
測定値と同時に、測定値に含まれる誤差を伝えるために、有効数字（ゆうこうすうじ）を用いる。
測定値を、有効数字と１０の累乗の積（掛け算）で表す。
\begin{xy}
(0,0)*{\huge 123 = 1.23 \times 10^{2} }="O",
{(-8,-7) \ar @{-}(10,-7)},
{(1,-8) \ar @{<-}(1,-15)},
{(23,-7) \ar @{-}(38,-7)},
{(31,-8) \ar @{<-}(31,-15)},
(0,-19)*{有効数字}="O",
(16,-19)*{\times}="O",
(30,-19)* {10の累乗}="O",
\end{xy}