スポンサー広告
誤差
データの測定値には、必ず誤差(ごさ)が含まれる。
例えば、ものの重さを測定しようとすれば、どれだけ正確に測定すればよいのだろうか。
1g単位だろうか、0.1g単位だろうか、それとも0.01g単位だろうか。
正確さにこだわりすぎると、そもそも測定ができなくなり、データが集まらなくなってしまう。
そこで、測定値を求めるときは、人間同士で約束をして、誤差が含まれた測定値を扱う。
小数点第1位を4捨五入すると約束して、測定値が1ならば、誤差の範囲はいくらになるだろうか。
\begin{xy}
{(0,0) \ar @{-}(60,0)},
{(10,3) \ar @{-}(10,-8)},
{(30,3) \ar @{-}(30,0)},
{(50,3) \ar @{-}(50,-8)},
{(10,-8) \ar @{<-}(18,-8)},
{(42,-8) \ar @{->}(50,-8)},
(10,6)*{0.5}="O",
(30,6)*{1}="O",
(50,6)*{1.5}="O",
(30,12)*{測定値}="O",
(30,-8)*{誤差の範囲}="O",
\end{xy}
実際の数値は0.5以上から1.5未満の可能性がある。
そこで、小数点第1位を4捨五入すると約束すると、測定値が1となり、誤差の範囲は0.5となる。
<例題 \( \Large 1 \) >
小数点第2位を4捨五入すると約束して、測定値が1.1ならば、誤差の範囲はいくらになるだろうか。
有効数字
測定値と同時に、測定値に含まれる誤差を伝えるために、有効数字(ゆうこうすうじ)を用いる。
測定値を、有効数字と10の累乗の積(掛け算)で表す。
\begin{xy}
(0,0)*{\huge 123 = 1.23 \times 10^{2} }="O",
{(-8,-7) \ar @{-}(10,-7)},
{(1,-8) \ar @{<-}(1,-15)},
{(23,-7) \ar @{-}(38,-7)},
{(31,-8) \ar @{<-}(31,-15)},
(0,-19)*{有効数字}="O",
(16,-19)*{\times}="O",
(30,-19)* {10の累乗}="O",
\end{xy}