真の値に近い値を近似値といいます。
近似値と真の値を区別するために、近似値を≒で表すことにします。
(例)円周率(3.14159265358979…)を 3.14 として扱う時は、3.14 は近似値であり、
3.14159265358979… ≒ 3.14 と表します。
ある量を測定して得た値を、その量の 測定値 といいます。
小寺平治先生は次のようにおっしゃっています(『ゼロから学ぶ統計解析』p.8)。
名古屋は200万都市だ、日本の人口1億2000万人だ、といいますが、統計に現われる数字は何らかの意味で近似値なのです。
測定値や近似値を表す数字の中で、信頼できる数字を有効数字(ゆうこうすうじ)といいます。有効数字がどれであるかをはっきりさせるために、$a\times 10^{n}$($1\leqq a <10$, $n$ は整数)の形に表すのが普通です。
(例)ある物体の重さをはかって 480g であるといったとき、
(1)1g 未満を四捨五入したときは、有効数字は 4, 8, 0 であるから $4.80\times 10^{2}\mathrm{g}$ と表します。
(2)10g 未満を四捨五入したときは、有効数字は 4, 8 であるから $4.8\times 10^{2}\mathrm{g}$ と表します。
(例題)次の数字の有効数字をいえ。
(1)3300 m (2)6080 円 (3)2.50 g (4)$3.40\times 10^{3}\mathrm{km}$
(考え方)(1)の 0 や(2)の最後の 0 のように、有効数字か位取りの 0 かわからないものは有効数字にしません。
(解答)
(1)3, 3 (2)6, 0, 8 (3)2, 5, 0 (4)3, 4, 0
(問題1)次の数字の有効数字をいえ。
(1)620 円 (2)2.30 km (3)0.00260mm (4)$3.060\times 10^{3}\mathrm{g}$
(問題2)次の$\fbox{{\hbox to10zw}}$の中に適当な数を入れなさい。
(1)$3.76\times 10^{4}=\fbox{ }$
近似値と真の値の差を誤差という。
(誤差)=(近似値)−(真の値)
ただし、上の式において、真の値はわからないことが多い。そこで、誤差のかわりに、真の値のとりうる範囲を不等式で表す。
(例)ある数 A を四捨五入して 2.35 になったときは、A の値は、2.345 ≦ A< 2.355 である。
(問題)
身長をはかり 152.5cm を得た。0.1cm 未満に次の処理をしたとすれば、真の値 A はどんな範囲にあるか。
(1)四捨五入 (2)切り捨て (3)切り上げ
近似値の計算はどうすればよいか。
(例)2.58×6.183 は 2.58×6.18 を計算して、答えは上から4桁目を四捨五入します。3.14÷5.8 は 3.1÷5.8 を計算し、答えは上から3桁目を四捨五入します。
リンクはご自由にどうぞ。