丸め誤差

読み：まるめごさ
品詞：名詞

コンピューターにおける演算で、小数点以下の小さな値を丸めて計算した結果、本来期待される正しい値とわずかにずれる現象のこと。

概要

10進数では有限小数であっても、2進数(基数が2)では無限小数となり、内部で正確に値を表現できないことがある。

このような場合、設計上の桁数以上の精度の値は端数として処理され、四捨五入、切り上げ、切り捨てといったような処理が2進数で行なわれる。

このため、計算結果は、10進数で計算した場合には起こりえない誤差が生じることになる。