有効数字

純粋数学であれば、1も1.0も、同じ数直線上の一点を表わしており誤差も含まず同じ値となる。

しかし理工学などで扱う数値は、その多くは測定値であり、誤差を含んでいる。ゆえに、表記される数字は、少なくとも1桁、不確かな桁が含まれている。

このような場合、四捨五入であれば末尾の桁は暗黙に±5、つまり−5〜+4の範囲で誤差を持つことになる。

この場合、漠然と次のような意味を持つ。

• x=1 … 0.5 ≦ x ＜ 1.5
• x=1.0 … 0.95 ≦ x ＜ 1.05
• x=1.00 … 0.995 ≦ x ＜ 1.005

1と1.0と1.00は、一見同じ値を示しているように見えても、内に秘める精度が違っていることになる。

有効数字の桁数を、有効桁数という。

有効桁が一つ増えるごとに精度は10倍に高まることを意味するため、科学分野では、位取りのための0なのか、数字として意味のある0なのかの区別が必要となった。

有効桁の表記方法はいくつか考えられるが、指数表記(冪乗表記)が一般的となっている。

数字を、指数表記、つまり10の冪乗で表記すると、有効数字を自然に表現できることからよく使われている。

例えば「1234000」という値があったとした場合、次のような表現が可能である。

• 1.234×10⁶
• 1.2340×10⁶
• 1.23400×10⁶
• 1.234000×10⁶

この方法によって、有効桁が分かるため、精度も自動的に分かることになる。