スポンサー広告

誤差

データの測定値には、必ず誤差(ごさ)が含まれる。


例えば、ものの重さを測定しようとすれば、どれだけ正確に測定すればよいのだろうか。

1g単位だろうか、0.1g単位だろうか、それとも0.01g単位だろうか。

正確さにこだわりすぎると、そもそも測定ができなくなり、データが集まらなくなってしまう。

そこで、測定値を求めるときは、人間同士で約束をして、誤差が含まれた測定値を扱う。

小数点第1位を4捨五入すると約束して、測定値が1ならば、誤差の範囲はいくらになるだろうか。

\begin{xy} {(0,0) \ar @{-}(60,0)}, {(10,3) \ar @{-}(10,-8)}, {(30,3) \ar @{-}(30,0)}, {(50,3) \ar @{-}(50,-8)}, {(10,-8) \ar @{<-}(18,-8)}, {(42,-8) \ar @{->}(50,-8)}, (10,6)*{0.5}="O", (30,6)*{1}="O", (50,6)*{1.5}="O", (30,12)*{測定値}="O", (30,-8)*{誤差の範囲}="O", \end{xy}

実際の数値は0.5以上から1.5未満の可能性がある。

そこで、小数点第1位を4捨五入すると約束すると、測定値が1となり、誤差の範囲は0.5となる。

<例題 \( \Large 1 \) >

小数点第2位を4捨五入すると約束して、測定値が1.1ならば、誤差の範囲はいくらになるだろうか。


<解説 \( \Large 1 \) >
\begin{xy} {(0,0) \ar @{-}(60,0)}, {(10,3) \ar @{-}(10,-8)}, {(30,3) \ar @{-}(30,0)}, {(50,3) \ar @{-}(50,-8)}, {(10,-8) \ar @{<-}(18,-8)}, {(42,-8) \ar @{->}(50,-8)}, (10,6)*{1.05}="O", (30,6)*{1.1}="O", (50,6)*{1.15}="O", (30,12)*{測定値}="O", (30,-8)*{誤差の範囲}="O", \end{xy}
<解答 \( \Large 1 \) >
誤差の範囲は0.05となる。

有効数字

測定値と同時に、測定値に含まれる誤差を伝えるために、有効数字(ゆうこうすうじ)を用いる。

測定値を、有効数字と10の累乗の積(掛け算)で表す。

\begin{xy} (0,0)*{\huge 123 = 1.23 \times 10^{2} }="O", {(-8,-7) \ar @{-}(10,-7)}, {(1,-8) \ar @{<-}(1,-15)}, {(23,-7) \ar @{-}(38,-7)}, {(31,-8) \ar @{<-}(31,-15)}, (0,-19)*{有効数字}="O", (16,-19)*{\times}="O", (30,-19)* {10の累乗}="O", \end{xy}

有効数字は、1ケタめを整数に、残りを小数になるように、書く。

有効数字のケタ数までは、4捨五入していない、誤差のない数値となる。

例えば、

\begin{xy} (0,0)*{\huge 1.23 \times 10^{2} }="O", \end{xy}

は、有効数字が3ケタなので、3ケタめまでは4捨五入せず、4ケタめを4捨五入した測定値だと伝わる。

有効数字のケタ数が大きくなれば 測定値の正確さは増えていく。

<例題 \( \Large 2 \) >

(1)33333を、有効数字2ケタで表しなさい。

(2)33333を、有効数字3ケタで表しなさい。

(3)33333を、有効数字4ケタで表しなさい。


<解答 \( \Large 2 \) >
\[ (1) \,\,\, 3.3 \times 10^{5} \] \[ (2) \,\,\, 3.33 \times 10^{5} \] \[ (3) \,\,\, 3.333 \times 10^{5} \]

次へ

前へ