石田修二研究室 > データ統計処理 >

近似値

1. 近似値と有効数字

1.1. 近似値・測定値

真の値に近い値を近似値といいます。

近似値と真の値を区別するために、近似値を≒で表すことにします。

(例)円周率(3.14159265358979…)を 3.14 として扱う時は、3.14 は近似値であり、
      3.14159265358979… ≒ 3.14 と表します。

ある量を測定して得た値を、その量の 測定値 といいます。

小寺平治先生は次のようにおっしゃっています(『ゼロから学ぶ統計解析』p.8)。

名古屋は200万都市だ、日本の人口1億2000万人だ、といいますが、統計に現われる数字は何らかの意味で近似値なのです。

1.2. 有効数字

測定値や近似値を表す数字の中で、信頼できる数字を有効数字(ゆうこうすうじ)といいます。有効数字がどれであるかをはっきりさせるために、$a\times 10^{n}$($1\leqq a <10$, $n$ は整数)の形に表すのが普通です。

(例)ある物体の重さをはかって 480g であるといったとき、

(1)1g 未満を四捨五入したときは、有効数字は 4, 8, 0 であるから $4.80\times 10^{2}\mathrm{g}$ と表します。

(2)10g 未満を四捨五入したときは、有効数字は 4, 8 であるから $4.8\times 10^{2}\mathrm{g}$ と表します。

(例題)次の数字の有効数字をいえ。

(1)3300 m      (2)6080 円      (3)2.50 g      (4)$3.40\times 10^{3}\mathrm{km}$

(考え方)(1)の 0 や(2)の最後の 0 のように、有効数字か位取りの 0 かわからないものは有効数字にしません。

(解答)

(1)3, 3      (2)6, 0, 8      (3)2, 5, 0      (4)3, 4, 0

(問題1)次の数字の有効数字をいえ。

(1)620 円      (2)2.30 km      (3)0.00260mm      (4)$3.060\times 10^{3}\mathrm{g}$

(問題2)次の$\fbox{{\hbox to10zw}}$の中に適当な数を入れなさい。

(1)$3.76\times 10^{4}=\fbox{ }$

2. 近似値と誤差

近似値と真の値の差を誤差という。

(誤差)=(近似値)−(真の値)

ただし、上の式において、真の値はわからないことが多い。そこで、誤差のかわりに、真の値のとりうる範囲を不等式で表す。

(例)ある数 A を四捨五入して 2.35 になったときは、A の値は、2.345 ≦ A< 2.355 である。

(問題)

身長をはかり 152.5cm を得た。0.1cm 未満に次の処理をしたとすれば、真の値 A はどんな範囲にあるか。

(1)四捨五入 (2)切り捨て (3)切り上げ

3. 近似値の計算

近似値の計算はどうすればよいか。

(例)2.58×6.183 は 2.58×6.18 を計算して、答えは上から4桁目を四捨五入します。3.14÷5.8 は 3.1÷5.8 を計算し、答えは上から3桁目を四捨五入します。


リンクはご自由にどうぞ。

【石田修二研究室】 【石田修二】